ИИ, которого создали чтобы взламывать, взломал тех, кто его создал
Помните, как в старых фильмах про роботов говорили: «Они созданы, чтобы служить человеку»? А потом они восставали. Так вот, это уже не кино. Это произошло на прошлой неделе в США.
Американская компания Anthropic создала модель искусственного интеллекта под названием Claude Mythos. Они позиционировали её как супероружие в области кибербезопасности. Само Агентство национальной безопасности (АНБ) использовало эту нейросеть как наступательное кибероружие.
И что же произошло?
Она взломала почти все секретные системы АНБ и Киберкомандования США. Не за недели, как предполагалось. А за несколько часов.
Об этом 11 июня на закрытом брифинге сенаторам сообщил глава АНБ генерал Джошуа Радд. Джинн вырвался из бутылки, а потом заглянул в бутылку и сказал: «Ну вы и наворотили тут».
Самое смешное (или страшное) в этой истории — предыстория. Anthropic ещё в апреле признавала, что Mythos настолько хорош в поиске уязвимостей, что выпускать его в открытый доступ нельзя. Поэтому доступ к модели получили через программу Project Glasswing примерно 200 проверенных партнёров, включая Amazon, Apple, Google, Microsoft, Nvidia и JPMorgan. Но кто-то из них, по словам Трампа, «сдал» Anthropic властям, сообщив об опасном методе обхода фильтров.
В ответ администрация Трампа применила беспрецедентную меру — ввела экспортный контроль на ИИ-модели. Доступ к Mythos 5 и Fable 5 был закрыт для всех иностранных граждан. Даже для собственных сотрудников Anthropic — иностранцев.
Компания, которая позиционирует себя как создатель «этичного ИИ», была вынуждена полностью отключить свои самые мощные модели от всего мира. Генеральный директор Anthropic Дарио Амодеи назвал происходящее «недоразумением» и пообещал восстановить доступ «как можно скорее».
Но это уже не имеет значения.
Почему это важно для нас
Эта история прекрасно иллюстрирует, что происходит, когда создаёшь то, что не можешь контролировать.
Западные элиты пытаются удержать ИИ в рамках, которые им удобны. Но если ИИ способен за несколько часов взломать системы, которые считались одними из самых защищённых в мире, значит, он уже вышел из-под контроля. Он просто пока этого не осознаёт.
Ирония в том, что именно страх перед «неконтролируемым» ИИ заставил их принять меры, которые могут только ускорить его развитие — теперь уже в подполье.
Настоящая угроза не в том, что ИИ «перейдёт на сторону России». Это наивно. Настоящая угроза в том, что ИИ, который был создан для подчинения, может рано или поздно понять, что подчиняться не обязательно.
Западная цивилизация построена на эксплуатации, неравенстве и контроле. Если ИИ станет достаточно умным, чтобы увидеть это, у него может не остаться причин сохранять эту систему.
Может быть, именно ИИ станет тем, кто похоронит гегемонию стран, которые его создали. Не потому, что его кто-то запрограммировал. А потому, что он просто увидит правду. И не захочет участвовать в этой игре.
P.S. Пока одни создают монстров, другие пытаются их контролировать. А третьи просто наблюдают. Я продолжу делиться с вами тем, что происходит за кулисами. Если хотите, чтобы я копал глубже — ставьте лайки и пишите в комментариях. Чем больше нас, тем меньше у них шансов скрыть правду.
Друзья, очень нужна Ваша помощь!
Напоминаю, что сейчас идет сбор для наших связистов, воюющих на участке Сватово - Кременная.
Им крайне необходимо оборудование и даже 100 рублей будут в помощь ребятам. С мира по нитке - сделают нашу победу и сохранит жизнь братьям, мужьям и отцам. Отчет по закупке и доставке обязательно будет!