Глава Anthropic Дарио Амодеи призвал ввести жесткое регулирование ИИ наравне с авиацией и лекарственными средствами

Дарио Амодеи, фото gettyimages

Генеральный директор компании Anthropic Дарио Амодеи призвал к строгому государственному регулированию передовых моделей искусственного интеллекта наравне с авиацией, автопромом и медициной.

Об этом говорится в программном эссе Policy on the AI Exponential.

Вместе с этим Anthropic анонсировала и пообещала финансово поддержать законодательное предложение об обязательном тестировании ИИ-систем и создании политической рамки на случай массовой безработицы.

Переломным моментом для Амодеи стала модель Claude Mythos Preview, которая продемонстрировала реальные киберриски для национальной безопасности, финансового сектора и критической инфраструктуры. Глава Anthropic подчеркнул, что технология развивается слишком быстро и угрожает не только кибербезопасности, но и может привести к появлению биологического оружия или потере контроля над автономными системами.

Для безопасного развития технологий автор предложил реформировать пять основных сфер.

В рамках регулирования общественной безопасности Амодеи считает необходимым создать государственный аналог авиационного управления для ИИ, ввести независимые проверки моделей и предоставить властям право блокировать опасные разработки.

Для защиты макроэкономики и рынка труда он предлагает запустить государственный мониторинг занятости, ввести страхование зарплат, налоговые льготы за содержание штатных сотрудников, а при необходимости — безусловный базовый доход, финансируемый за счет налогов на ИИ-индустрию.

Чтобы ускорить положительный эффект в биомедицине, предлагается адаптировать медицинские контролирующие органы к быстрой проверке новых лекарств с помощью ИИ-симуляций вместо длительных клинических испытаний.

В вопросе защиты гражданских свобод Амодеи призывает законодательно запретить использование автономного оружия против собственных граждан, закрыть лазейки для массовой слежки и ввести судебный контроль над автономными системами.

Для сохранения лидерства демократий глава Anthropic видит выход в создании коалиции демократических стран для совместного контроля над технологиями и ограничения доступа противников к современным чипам. В то же время он отметил, что автономное оружие является легитимным средством защиты от внешней агрессии, в частности против российского вторжения в Украину.

Руководитель Anthropic подытожил, что общественное беспокойство по поводу развития ИИ вполне оправдано, а текущий момент представляет собой уникальное окно возможностей для правительств, чтобы успеть принять конструктивные регуляторные решения.

Напомним, власти американского штата Флорида подали в суд на компанию OpenAI и ее руководителя Сэма Альтмана. Чиновники уверены, что разработчики прекрасно знают об опасности ChatGPT, но все равно подставляют под удар пользователей, особенно подростков и детей.

Хакеры нашли лазейку в защите Instagram, использовав для этого нового ИИ-бота поддержки Meta.

Федеральный судья США Шарион Эйкок закрыла судебное дело и наказала адвокатов обеих сторон за использование искусственного интеллекта для подготовки документов.