Глава Anthropic Дарио Амодеи призвал ввести жесткое регулирование ИИ наравне с авиацией и лекарственными средствами
-
- Тамила КсенжикКорреспондент
Дарио Амодеи, фото gettyimagesГенеральный директор компании Anthropic Дарио Амодеи призвал к строгому государственному регулированию передовых моделей искусственного интеллекта наравне с авиацией, автопромом и медициной.
Об этом говорится в программном эссе Policy on the AI Exponential.
Вместе с этим Anthropic анонсировала и пообещала финансово поддержать законодательное предложение об обязательном тестировании ИИ-систем и создании политической рамки на случай массовой безработицы.
Переломным моментом для Амодеи стала модель Claude Mythos Preview, которая продемонстрировала реальные киберриски для национальной безопасности, финансового сектора и критической инфраструктуры. Глава Anthropic подчеркнул, что технология развивается слишком быстро и угрожает не только кибербезопасности, но и может привести к появлению биологического оружия или потере контроля над автономными системами.
Для безопасного развития технологий автор предложил реформировать пять основных сфер.
В рамках регулирования общественной безопасности Амодеи считает необходимым создать государственный аналог авиационного управления для ИИ, ввести независимые проверки моделей и предоставить властям право блокировать опасные разработки.
Для защиты макроэкономики и рынка труда он предлагает запустить государственный мониторинг занятости, ввести страхование зарплат, налоговые льготы за содержание штатных сотрудников, а при необходимости — безусловный базовый доход, финансируемый за счет налогов на ИИ-индустрию.
Чтобы ускорить положительный эффект в биомедицине, предлагается адаптировать медицинские контролирующие органы к быстрой проверке новых лекарств с помощью ИИ-симуляций вместо длительных клинических испытаний.
В вопросе защиты гражданских свобод Амодеи призывает законодательно запретить использование автономного оружия против собственных граждан, закрыть лазейки для массовой слежки и ввести судебный контроль над автономными системами.
Для сохранения лидерства демократий глава Anthropic видит выход в создании коалиции демократических стран для совместного контроля над технологиями и ограничения доступа противников к современным чипам. В то же время он отметил, что автономное оружие является легитимным средством защиты от внешней агрессии, в частности против российского вторжения в Украину.
Руководитель Anthropic подытожил, что общественное беспокойство по поводу развития ИИ вполне оправдано, а текущий момент представляет собой уникальное окно возможностей для правительств, чтобы успеть принять конструктивные регуляторные решения.
Напомним, власти американского штата Флорида подали в суд на компанию OpenAI и ее руководителя Сэма Альтмана. Чиновники уверены, что разработчики прекрасно знают об опасности ChatGPT, но все равно подставляют под удар пользователей, особенно подростков и детей.
Хакеры нашли лазейку в защите Instagram, использовав для этого нового ИИ-бота поддержки Meta.
Федеральный судья США Шарион Эйкок закрыла судебное дело и наказала адвокатов обеих сторон за использование искусственного интеллекта для подготовки документов.
