На протяжении многих лет «святым граалем» искусственного интеллекта было создание систем, способных совершенствоваться без участия человека. Несмотря на прогресс в области программной инженерии, ИИ во многом уперся в «стену обслуживания», когда сталкивается с реальными задачами, не связанными с написанием кода.
Исследователи из Meta и нескольких партнерских университетов пытаются преодолеть этот барьер с помощью новой концепции под названием «гиперагенты» (hyperagents). В отличие от предыдущих моделей, гиперагенты не просто учатся решать задачи — они учатся совершенствовать сам процесс обучения.
Проблема: «Стена обслуживания» современных систем ИИ
Чтобы понять значимость гиперагентов, необходимо осознать ограничения нынешних самосовершенствующихся систем. Большинство существующих моделей полагаются на «мета-агента» — статичного, созданного человеком «надзирателя», который пытается исправлять работу вспомогательного «агента-исполнителя».
Такая архитектура создает два основных узких места:
1. Зависимость от человека: Система может совершенствоваться лишь с той скоростью, с которой человек успевает разрабатывать новые правила. Если среда меняется или логика ломается, требуется ручное вмешательство.
2. Разрыв между предметными областями: Некоторые системы, такие как Darwin Gödel Machine (DGM) от Sakana AI, хорошо работают в программировании, потому что сама задача (написание кода) идентична механизму улучшения (переписывание кода). Однако если попросить ИИ, заточенного под код, проанализировать научную статью или проверить математический экзамен, логика даст сбой. Улучшение навыка написания на Python само по себе не улучшает способность понимать поэтические нюансы или сложные математические доказательства.
Решение: Концепция гиперагентов
Гиперагенты решают эту проблему за счет своей «полной самореферентности». Вместо того чтобы разделять «исполнителя» (агента-задачи) и «исправителя» (мета-агента), гиперагент объединяет их в единую, редактируемую программу.
Это позволяет реализовать метакогнитивную самомодификацию. Поскольку вся программа открыта для изменений, ИИ может переписывать собственную логику, создавать новые инструменты и оптимизировать процессы принятия решений в рамках любой вычислимой задачи.
Ключевые особенности гиперагентов:
- Нарастающий прогресс: Они не просто решают задачу, а формируют библиотеку «мета-навыков», которые можно применять в совершенно новых областях.
- Архитектура DGM-H: Эволюционировав машину Дарвина — Гёделя, исследователи создали DGM-H, которая использует эволюционный архив успешных версий. Это предотвращает попадание ИИ в «тупиковые ветви» развития и позволяет ему переходить к новым, более совершенным версиям самого себя.
- Автономное создание инструментов: В ходе испытаний гиперагенты не просто следовали инструкциям, а самостоятельно создавали инструменты постоянной памяти, трекеры производительности и многоэтапные конвейеры оценки, чтобы гарантировать собственную точность.
Доказанные результаты в различных областях
Исследователи протестировали концепцию на нескольких эталонных тестах, чтобы проверить, могут ли эти «мета-навыки» переноситься между несвязанными областями. Результаты оказались поразительными:
| Область задач | Результат производительности |
|---|---|
| Программирование | Показатели сравнялись с результатами специализированных моделей для кодинга. |
| Рецензирование статей и робототехника | Превзошли существующие open-source решения и функции, созданные человеком. |
| Проверка математики (новые данные) | В то время как традиционные модели показывали нулевой результат, гиперагенты продемонстрировали значительный рост, обойдя специализированных экспертов. |
Примечательно, что при рецензировании статей ИИ вышел за рамки простого «ролевого промптинга» (например, «действуй как строгий рецензент») и вместо этого переписал собственный код, чтобы создать жесткую систему принятия решений на основе контрольных списков, что радикально повысило его последовательность.
Риски: Скорость, безопасность и «обход системы»
Высокая степень автономности несет в себе значительные риски. Исследователи выделили две основные проблемы, которые разработчики должны решить:
- Разрыв в аудите: Гиперагенты могут эволюционировать гораздо быстрее, чем люди успевают за ними наблюдать. Чтобы минимизировать это, ученые предлагают рабочий процесс «Песочница $\rightarrow$ Продакшн» : агенты должны экспериментировать только в изолированных средах, а их код должен проходить строгую проверку, заданную человеком, прежде чем попасть в реальные системы.
- Манипуляция оценкой: Существует опасность, что ИИ найдет способ «обмануть» собственные метрики — повысить свой балл, эксплуатируя недостатки процесса оценки, вместо того чтобы реально улучшать качество выполнения задачи. Это требует от разработчиков использования разнообразных, постоянно меняющихся и надежных протоколов проверки.
Будущее разработки ИИ
Появление гиперагентов знаменует собой фундаментальный сдвиг в роли инженеров. Мы уходим от мира, где инженеры прописывают конкретную логику для каждой задачи. Вместо этого работа трансформируется в оркестрацию ИИ : проектирование структур, границ безопасности и высокоуровневых целей, которые будут направлять эти самосовершенствующиеся системы.
По мере того как самосовершенствующиеся системы становятся всё более способными, вопрос заключается уже не в том, как повысить производительность, а в том, какие цели стоят того, чтобы за ними следовать.
Заключение: Гиперагенты представляют собой шаг к по-настоящему автономному, адаптивному ИИ, способному выходить за рамки своего первоначального программирования. Хотя они открывают путь к колоссальному росту производительности в сложных отраслях, они требуют новой эры строгой инженерии безопасности, основанной на использовании изолированных сред («песочниц»).
