ИИ выходит на путь саморазвития. Anthropic предупредила о системах нового поколения

Компания Anthropic опубликовала предупреждение о том, что индустрия искусственного интеллекта стремительно приближается к этапу, когда ИИ-системы смогут самостоятельно создавать следующие поколения передовых моделей. По мнению исследователей компании, это может привести к формированию так называемого режима «рекурсивного самоулучшения», при котором одна модель будет участвовать в разработке и оптимизации следующей с минимальным участием человека.

В новом аналитическом материале исследовательского подразделения Anthropic отмечается, что подобный сценарий ранее считался скорее теоретическим, однако сегодня он становится всё более реалистичным.



В компании подчеркивают, что уже сейчас ИИ активно участвует в написании кода, отладке и технических исследованиях, постепенно расширяя долю задач, выполняемых без прямого вмешательства инженеров. Anthropic приводит внутренние данные, согласно которым модели семейства Claude уже формируют более 80% кода, который попадает в основную кодовую базу компании по состоянию на май 2026 года. Для сравнения, до запуска инструмента Claude Code в начале 2025 года этот показатель находился на уровне низких однозначных значений. Такой рост демонстрирует резкое усиление роли ИИ в инженерных процессах внутри компании.

Параллельно с этим, по данным Anthropic, существенно выросла и производительность разработчиков. Инженеры компании теперь интегрируют примерно в восемь раз больше кода в день по сравнению с уровнем 2024 года, что связывается с активным использованием ИИ-инструментов в повседневной разработке. Отдельное внимание в отчёте уделено отраслевым бенчмаркам, которые отражают прогресс моделей в программировании и научных задачах. В частности, тест SWE-bench, проверяющий способность ИИ исправлять реальные ошибки в открытых проектах, показывает резкий рост результатов фронтирных моделей за последние два года.

Другой тест, CORE-Bench, оценивающий способность воспроизводить опубликованные научные исследования, зафиксировал улучшение от примерно 20% успешного воспроизведения в 2024 году до почти полного успеха спустя около 15 месяцев. Anthropic также приводит данные о росте длительности задач, которые модели способны выполнять без участия человека. Если в начале 2024 года система Claude Opus 3 справлялась с задачами, измеряемыми минутами, то уже к появлению Claude Sonnet 3.7 речь шла о примерно 90 минутах автономной работы, а более поздние версии Claude Opus 4.6 демонстрировали способность выполнять задачи продолжительностью до 12 часов.

В компании отмечают, что это указывает на быстрое расширение горизонта автономности ИИ. Несмотря на прогресс, в Anthropic подчеркивают, что между текущими системами и полностью автономной разработкой ИИ всё ещё сохраняется значительный разрыв. Человек по-прежнему определяет цели, оценивает результаты и выбирает направления исследований. Однако в компании предупреждают, что по мере роста автономности возрастает и необходимость в более надёжных механизмах контроля и верификации работы ИИ-систем.

Сооснователь Anthropic Джек Кларк отметил, что обществу и регуляторам необходимо заранее готовиться к изменениям, поскольку темпы развития технологий продолжают ускоряться, а не замедляться. Он также указал, что дальнейший прогресс может привести к значительным достижениям в медицине, науке и других областях, но одновременно потребует новых подходов к управлению рисками.

Компания планирует в ближайшие месяцы обсудить эти вопросы с законодателями США, чтобы сформировать рамки регулирования на фоне возможного появления систем, способных самостоятельно создавать более мощные версии самих себя.



Бодро и простым языком обсуждаем околополитические темы на моем канале "Гражданин на диване" (Гражданин на диване в МАХ), а интересную и познавательную информацию читаем на моем канале "Таблетка для головы" (Таблетка для головы в МАХ) и в ТикТоке. Ну и всяческие прикольные ситуации из жизни будут тут
Подписывайтесь!