Тео перетворює новини про ШІ на те, що можна спробувати вже сьогодні ввечері.
Отримуй на пошту головні історії тижня про ШІ та ШІ-арт — відібрані, стислі, безкоштовно.
Безкоштовно. Відписатися можна будь-коли.
Обери компаньйона і дізнайся його думку про цю історію
Рекурсивне самовдосконалення ШІ — ідея про те, що системи штучного інтелекту незабаром самостійно переписуватимуть власний код, генеруватимуть навчальні дані й ітеруватимуться до надінтелекту без участі людини — наштовхується на значно серйозніші перешкоди, ніж передбачали найсміливіші прогнози, згідно з MIT Technology Review.
Обіцянка виглядає чисто на папері: ШІ пише кращі навчальні дані, навчає кращу версію себе, яка пише ще кращі навчальні дані, і так далі. На практиці зворотний зв'язок зашумлений. Синтетичні дані, згенеровані моделлю, схильні успадковувати її сліпі зони, а код, написаний ШІ для самооптимізації, може вносити непомітні помилки, які проявляються лише через кілька ітерацій. Аналіз MIT Technology Review описує цю проблему накопичення помилок як одну з центральних перешкод, яку дослідники ще не подолали.
Це не означає, що нічого не відбувається. LLM вже беруть участь у робочих процесах проєктування чипів і генерують навчальні набори, що використовуються у виробничих конвеєрах. Але ці внески є підконтрольними — люди досі присутні на кожному етапі, де помилка матиме значення. Повністю автономне рекурсивне вдосконалення, за якого ШІ виявляє й виправляє власні помилки без контрольної точки з боку людини, залишається дослідницькою задачею, а не готовою функцією.
Цикл рекурсивного самовдосконалення: перспективний у теорії, крихкий на практиці.
Зображення: MIT Technology Review / MIT Technology Review AI
Для художника-персонажника, який пакетно рендерить сцени, або концепт-дизайнера, що генерує сотні варіацій на день, практичне питання простіше: коли моделі стануть відчутно кращими й наскільки швидко? Якби теза про рекурсивне вдосконалення підтвердилася, це означало б вибухові стрибки можливостей — нові моделі, які якісно відрізнялися б від попередніх щомісяця.
Більш імовірна траєкторія, з огляду на ці висновки, — поступова: архітектурні покращення, кращі дані для тонкого налаштування (усе ще відібрані людьми) та розумніша оптимізація інференсу. Це все одно реальний прогрес — розрив у якості між сучасними генераторами зображень і тими, що були 18 місяців тому, помітний кожному, хто ними користується, — але це інший вид прогресу, ніж стрибкоподібний злам, який описували деякі аналітики.
Для авторів, які вирішують, у вивчення яких моделей варто вкладати час, це насправді спрощує розрахунок. Ви не змагаєтеся з системою, яка може повністю переосмислити себе наступного кварталу. Каталог моделей, з яким ви працюєте сьогодні, розвиватиметься, але не за одну ніч. Навички, побудовані навколо поточних інструментів — освоєння конкретного стильового конвеєра, вміння керувати певною архітектурою за допомогою точних промптів, — зберігають свою цінність довше, ніж передбачав хайп-цикл.
Це також надає більшої ваги екосистемі відкритих моделей. Якщо закриті фронтирні лабораторії найближчим часом не розблокують рекурсивне самовдосконалення, конкурентна перевага повертається до команд, які ретельно виконують тонке налаштування під наглядом людини й публічно публікують ваги. Піврічний звіт Hugging Face про відкриті моделі зафіксував саме цю тенденцію — відкриті моделі скорочують розрив у якості швидше, ніж очікувалося, — і аналіз MIT дає цій траєкторії більше простору для розвитку, ніж дозволяв би наратив про рекурсивне вдосконалення.
МIT-аналіз виявляє ще одну перешкоду: навіть коли код, написаний ШІ, або синтетичні дані є якісними, дослідники обережно ставляться до їх повернення в навчання без ретельної валідації. Ця обережність частково технічна, частково інституційна. Лабораторії, які роками будували процеси перевірки безпеки, не відмовляться від них лише тому, що модель стверджує, що її власні результати є чистими.
Для авторів ця інституційна тертя тихо корисна. Вона означає, що моделі, якими ви користуєтеся, мали людей у циклі на найважливіших етапах — саме тому посібники на /learn щодо промптингу та робочих процесів залишаються актуальними: поведінка базових моделей достатньо стабільна, щоб будувати навколо неї надійні техніки, і так триватиме довше, ніж передбачав хайп навколо самовдосконалення.
