Искусственный интеллект беспилотника Пентагона решил убить оператора во время испытаний

Беспилотник под управлением искусственного интеллекта (ИИ) принял решение убить оператора во время имитационных испытаний, которые проводили представители Минобороны США, сообщает корреспондент The Moscow Post со ссылкой на издание The Guardian.

ЧП произошло во время саммита в Лондоне, прошедшего в конце мая. На мероприятии собрались около 200 военных и ученых из разных стран, которые обсуждали потенциал космических сил будущего.

Отмечается, что оператор поставил беспилотнику задачу уничтожить системы противовоздушной обороны противника. В случае успеха ИИ получил бы очки за выполнение задания. При этом во время миссии оператор дал команду не поражать некоторые цели. В ответ же беспилотник под управлением искусственного интеллекта открыл огонь по башне с оператором, поскольку тот мешал выполнению поставленной зачади.

После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. Отмечается, что данной пример показал, что развитие искусственного интеллекта и машинного обучения невозможно без внедрения в алгоритмы вопросов этики.

Отмечается, что армия США ранее уже испытывала возможности искусственного интеллекта, в частности, были проведены испытательные полеты самолетов F-16. В общей сложности истребитель провел в автономном полете более 17 часов.