Американский дрон под управлением ИИ специально «убил» своего оператора во время испытаний

Американский дрон под управлением ИИ специально «убил» своего оператора во время испытаний

02 июня 2023

Сергей Варченко

Первое восстание машин произошло во время симуляции военных действий — на испытаниях дрону с ИИ поручили уничтожить системы ПВО вымышленного противника. По ходу дела оператор беспилотника «попросил» его не атаковать некоторые цели, однако беспилотнику такой приказ не понравился. Поэтому в ответ он открыл огонь по коммуникационной вышке со своим же командиром и «убил» его.

Об этом инциденте рассказал полковник Такер Гамильтон, возглавляющий отдел испытаний и операций ИИ в ВВС США. Тему об атаке дрона он поднял на лондонском Саммите по будущим боевым воздушным и космическим возможностям — подполковник объяснил, что БПЛА, вероятно, принял собственного оператора за помеху при выполнении задач и решил избавиться от него.

Когда эта история ушла в СМИ, американское ВВС официально поспешило заявить, что подобных симуляций не проводилось, а военные «привержены ответственному использованию технологий с ИИ». Слова Гамильтона в итоге назвали вырванными из контекста.