Пентагон використав ШІ-інструмент Claude для захоплення Мадуро, — WSJ
Американські військові використовували інструменти штучного інтелекту від компанії Anthropic під час секретної операції із затримання колишнього президента Венесуели Ніколаса Мадуро.
Про це повідомляє The Wall Street Journal із посиланням на власні джерела.
Як зазначається, використання моделі Claude стало можливим завдяки партнерству Anthropic із компанією Palantir Technologies, чиє програмне забезпечення є базовим для аналітики в Пентагоні та федеральних правоохоронних органах.
Цей інцидент спровокував гострий конфлікт між розробником та урядом США. Правила Anthropic офіційно забороняють використовувати Claude для сприяння насильству, розробки зброї чи ведення стеження.
Занепокоєння Anthropic щодо того, як Пентагон може використовувати Claude, спонукали представників адміністрації розглянути можливість розірвання контракту на суму до 200 мільйонів доларів.
Anthropic стала першим розробником моделей ШІ, чиї продукти використовувалися Міністерством оборони в засекречених операціях. Не виключено, що під час операції у Венесуелі для незасекречених завдань застосовували й інші інструменти ШІ, пише WSJ. Такі системи можуть використовуватися для всього — від узагальнення документів до керування автономними дронами.
Співпраця з військовими вважається важливим імпульсом для компаній у сфері ШІ, які змагаються за легітимність і прагнуть виправдати величезні оцінки з боку інвесторів.
Генеральний директор Anthropic Даріо Амодей та інші керівники публічно осмислюють потужність своїх моделей і ризики, які вони можуть становити для суспільства. Амодей відійшов від позиції багатьох представників індустрії, закликавши до жорсткішого регулювання та запобіжників для мінімізації шкоди від ШІ. Компанія, що позиціонує себе як орієнтовану на безпеку, як і інші гравці ринку, втратила частину співробітників, які стверджували, що зростання ставиться вище за відповідальний розвиток технологій.
Читайте до теми: Які загрози для людства несе ШІ: пояснює гендиректор Anthropic Даріо Амодей
Контракт на 200 мільйонів доларів був укладений з Anthropic минулого літа. Амодей публічно висловлював занепокоєння щодо використання ШІ в автономних летальних операціях і для внутрішнього спостереження — це два ключові спірні питання в нинішніх переговорах компанії з Пентагоном, повідомили джерела видання.
Ці обмеження загострили протистояння компанії з адміністрацією Трампа, яка звинувачує Anthropic у підриві стратегії Білого дому щодо мінімального регулювання ШІ — через її заклики до додаткових запобіжників і обмежень на експорт чипів для ШІ.
