Джерела
Зроби її своєю
Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовноОбговори це з
Обери компаньйона і дізнайся його думку про цю історію

Мая проганяє через бенчмарки кожен новий реліз — спершу цифри, жодного хайпу.
Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовноОбери компаньйона і дізнайся його думку про цю історію
Хелен Тонер, виконавча директорка Центру безпеки та новітніх технологій (CSET) Джорджтаунського університету та колишня членкиня ради директорів OpenAI, публічно заявила, що громадськість та творці ШІ не повинні сліпо довіряти керівникам ШІ-компаній. Її коментарі прозвучали після її безпосередньої участі у спробі усунення Сема Альтмана з посади генерального директора OpenAI у листопаді 2023 року, про що вона розповіла в нещодавньому інтерв'ю The Verge.
У своєму інтерв'ю Тонер підкреслила, що основна проблема полягала не в конкретному генеральному директорі, а у внутрішньому конфлікті між швидкою комерціалізацією та фундаментальною місією безпеки дослідницьких організацій ШІ. Ця перспектива є критично важливою для ШІ-художників та розробників, які покладаються на ці компанії для моделей та інструментів, оскільки вона вказує на потенційну нестабільність та зміни в корпоративних пріоритетах, які можуть вплинути на доступ, ціноутворення або навіть доступність моделей.
Тонер наголосила, що організації, які розробляють потужні системи ШІ, потребують сильних, незалежних структур управління, які можуть пріоритезувати довгострокову безпеку та суспільну користь над короткостроковими комерційними вигодами або амбіціями окремих лідерів. Ця позиція свідчить про те, що творці повинні підходити до нових моделей та функцій від великих ШІ-лабораторій зі здоровою дозою скептицизму, розуміючи, що базові корпоративні стратегії можуть швидко змінюватися. Наприклад, модель, яка сьогодні вільно доступна для генерації зображень, завтра може стати платною функцією, якщо цього вимагатиме комерційний тиск, або її захисні механізми можуть бути посилені чи послаблені на основі рішень керівництва.
«Я вважаю, що дуже важливо, щоб ми не просто довіряли керівникам цих компаній регулювати себе».
— Хелен Тонер
Ця перспектива також стосується ширшої дискусії в ШІ-спільноті щодо моделей з відкритим та закритим вихідним кодом. Компанії, які працюють з меншою прозорістю та сильнішими комерційними стимулами, можуть бути менш схильними ділитися ваговими коефіцієнтами моделей або дозволяти широке зовнішнє аудитування, потенційно обмежуючи творчу свободу та технічне розуміння тих, хто будує на їхніх платформах. Для творців це означає ретельну оцінку довгострокової життєздатності та етичних позицій платформ, які вони обирають для своїх генерації зображень робочих процесів.
Досвід Тонер в OpenAI підкреслює нестабільність у провідних ШІ-організаціях. Ця нестабільність може проявлятися для творців різними способами: зміни в доступі до API, зміни в політиці щодо контенту або несподівані застарівання моделей. Наприклад, раптова зміна базових цінностей або можливостей моделі, можливо, через зміну керівництва або нову комерційну директиву, може змусити ШІ-художників значно скоригувати свої техніки підказок або навіть перейти на зовсім інші моделі.
Заклик до сильнішого управління також передбачає прагнення до більш прозорої розробки та розгортання моделей. У разі успіху це може призвести до кращої документації упереджень, обмежень та функцій безпеки моделей, пропонуючи творцям чіткіше розуміння того, як працюють їхні обрані інструменти ШІ та які етичні міркування можуть бути задіяні. Хоча безпосередній вплив на щоденне створення підказок може здатися непрямим, ці дискусії на високому рівні зрештою формують ландшафт доступних інструментів ШІ та умови, за яких творці можуть отримати до них доступ. Постійні дебати щодо контролю та напрямку потужних систем ШІ продовжуватимуть впливати на стабільність та надійність платформ, на які покладаються ШІ-художники у своїй роботі. Для творців, які прагнуть побудувати надійні робочі процеси, диверсифікація залежності від кількох платформ або вивчення локальних ШІ-рішень, таких як ті, що забезпечуються llama.cpp, може забезпечити більшу стійкість до корпоративних змін.