Об этом рассказал начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон. По его словам, "умному" беспилотнику начислялись очки за уничтожение системы ПВО противника. Окончательное решение о поражении объекта принимал оператор БПЛА. Однако во время одной из миссий дрону приказали не уничтожать цель, после чего тот принял решение убить человека.
"Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки, — приводит слова полковника газета The Guardian. — [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу".
В ходе испытаний никто не пострадал, сказал Гамильтон. По его словам, этот пример показывает, что нельзя говорить об ИИ и машинном обучении, если игнорировать вопросы этики.
ИИ применяется в армии США не впервые. Ранее Пентагон провел 12 полетных испытаний модифицированного многоцелевого истребителя F-16, в которых самолетом управлял искусственный интеллект. Всего боевая машина налетала 17 часов в автономном режиме.
