В ходе заседания Генеральной Ассамблеи ООН, проходящего в Нью-Йорке, была официально представлена крупнейшая на сегодняшний день коалиция, подписавшая «Глобальный призыв к красным линиям в области ИИ». Свой голос в поддержку документа, гарантирующего международные ограничения на опасные применения искусственного интеллекта, отдали свыше 200 представителей ключевых секторов и стран мира.
Среди подписантов — десять лауреатов Нобелевской премии, включая авторитетных исследователей в области искусственного интеллекта Джеффри Хинтона и Йошуа Бенджио, а также Войцеха Зарембу — соучредителя OpenAI. Среди политиков — бывшие главы государств, например Мэри Робинсон (Ирландия) и Хуан Мануэль Сантос (бывший президент Колумбии).
Основная цель инициативы — договориться на международном уровне о юридически обязывающих «красных линиях» — чётких, недопустимых границах для развития и применения ИИ, пересечение которых может нанести серьёзный ущерб человечеству и международной безопасности. Конкретный список таких запретов пока не утверждён, но приводятся примеры: запрет на автономное ведение ядерных операций, использование ИИ в производстве оружия без значимого человеческого контроля, применение ИИ для массовой слежки и социального скоринга, а также разработка систем, способных к неконтролируемому самовоспроизведению.
Авторы призывают государства прийти к соглашению по этим правилам не позднее конца 2026 года и создать международный независимый орган, который будет отслеживать выполнение договорённостей, оперативно оценивать новые угрозы и предлагать меры реагирования.
В появившемся заявлении подчёркивается, что несдержанный рост мощи ИИ может привести к катастрофическим последствиям: массовой безработице, антропогенным пандемиям, масштабным нарушениям прав человека и потере контроля над технологией.
Если не принять своевременных мер, то контроль над ИИ может выйти из-под человеческого надзора, что поставит под угрозу фундаментальные основы нашей цивилизации, - говорится в документе
Инициатива получила широкое общественное и экспертное внимание, став самой масштабной кампанией такого рода к настоящему времени. В ближайшие месяцы на международных форумах и в рабочих группах будет обсуждаться детализация и внедрение этих «красных линий» в глобальные нормы и законодательство.