Очільник Anthropic Даріо Амодеї закликав жорстко регулювати ШІ на рівні з авіацією та ліками

Даріо Амодеї, фото gettyimages

Генеральний директор компанії Anthropic Даріо Амодеї закликав до суворого державного регулювання передових моделей штучного інтелекту на рівні з авіацією, автопромом та медициною.

Про це йдеться у програмному есе Policy on the AI Exponential.

Разом із цим Anthropic анонсувала та пообіцяла фінансово підтримати законодавчу пропозицію щодо обов'язкового тестування ШІ-систем і створення політичної рамки на випадок масового безробіття.

Переломним моментом для Амодеї стала модель Claude Mythos Preview, яка продемонструвала реальні кіберризики для національної безпеки, фінансового сектору та критичної інфраструктури. Очільник Anthropic наголосив, що технологія розвивається надто швидко і загрожує не лише кібербезпеці, а й може призвести до появи біологічної зброї чи втрати контролю над автономними системами.

Для безпечного розвитку технологій автор запропонував реформувати п'ять основних сфер.

У межах регулювання публічної безпеки Амодеї вважає за необхідне створити державний аналог авіаційного управління для ШІ, запровадити незалежні перевірки моделей та надати владі право блокувати небезпечні розробки.

Для захисту макроекономіки та ринку праці він пропонує запустити держмоніторинг зайнятості, запровадити страхування зарплат, податкові пільги за утримання штатних працівників, а за потреби — безумовний базовий дохід, профінансований податками на ШІ-індустрію.

Щоб прискорити позитивний ефект у біомедицині, пропонується адаптувати медичні органи контролю до швидкої перевірки нових ліків за допомогою ШІ-симуляцій замість тривалих клінічних тестів.

У питанні захисту громадянських свобод Амодеї закликає законодавчо заборонити використання автономної зброї проти власних громадян, закрити лазівки для масового стеження та впровадити судовий контроль над автономними системами.

Для збереження лідерства демократій очільник Anthropic бачить вихід у створенні коаліції демократичних країн для спільного контролю за технологіями та обмеження доступу супротивників до сучасних чипів. Водночас він зазначив, що автономна зброя є легітимною для захисту від зовнішньої агресії, зокрема проти російського вторгнення в Україну.

Керівник Anthropic підсумував, що суспільне занепокоєння щодо розвитку ШІ є цілком виправданим, а поточний момент є унікальним вікном можливостей для урядів, щоб встигнути ухвалити конструктивні регуляторні рішення.

Нагадаємо, влада американського штату Флорида подала до суду на компанію OpenAI та її керівника Сема Альтмана. Чиновники впевнені, що розробники чудово знають про небезпеку ChatGPT, але все одно підставляють під удар користувачів, особливо підлітків та дітей.

Хакери знайшли лазівку в захисті Instagram, використавши для цього нового ШІ-бота підтримки Meta.

Федеральна суддя США Шаріон Ейкок закрила судову справу та покарала адвокатів обох сторін через використання штучного інтелекту для підготовки документів.