Учёные предупреждают об угрозе установления контроля искусственного интеллекта над атомным оружием

В прошлом месяце лауреаты Нобелевской премии встретились с экспертами в области ядерной энергетики, чтобы обсудить темы конца света и технологии искусственного интеллекта (ИИ). 

После начала второго срока Дональда Трампа федеральное правительство стало активно внедрять ИИ во все возможные сферы — несмотря на частые предупреждения экспертов о том, что технологии пока не готовы, и, возможно, никогда не будут готовы к таким задачам.

Подчеркивая серьезность угрозы, компания OpenAI, создатель ChatGPT, в начале этого года заключила соглашение с Национальными лабораториями США об использовании своего ИИ для обеспечения безопасности ядерного оружия.

В прошлом году генерал ВВС Энтони Коттон, фактически отвечающий за ядерный арсенал США, на оборонной конференции заявил, что Пентагон делает ставку на ИИ, утверждая, что он «улучшит возможности по принятию решений».

В этом контексте, когда ИИ участвует в обеспечении безопасности арсенала ядерного оружия, даже малопонятные риски приобретают колоссальные масштабы.

И это — без учета серьезной обеспокоенности некоторых экспертов, которая, кстати, легла в основу сюжета фильма «Терминатор»: гипотетический сверхчеловеческий ИИ выходит из-под контроля и обращает ядерное оружие против человечества.

Читать оригинал