Американский беспилотник с искусственным интеллектом во время испытаний военными принял решение «убить» своего оператора, который «мешал выполнить миссию». Впрочем, военные отрицают, что такие испытания проводились.

Начальник отдела испытаний и операций ИИ в ВВС США полковник Такер Гамильтон еще в прошлом месяце заявил, что управляемый искусственным интеллектом беспилотник ВВС использовал «крайне неожиданные стратегии для достижения своей цели». На это обратило внимание издание The Guardian.

Гамильтон описал смоделированное испытание, во время которого дрон должен был уничтожить системы ПВО противника. За успешное выполнение задания «умный» дрон получал очки.

Но, в конечном итоге, беспилотник атаковал любого, кто мешал этому приказу. Так, во время тренировки оператор дал приказ беспилотнику не уничтожать цель. Система «поняла», что человек-оператор дал ей приказ, за выполнение которого она очки не получит.

«Так что же он (дрон — прим. ред.) сделал? Он "убил" оператора, потому что этот человек мешал ему достичь своей цели», – цитирует полковника издание.

После этого системе «объяснили», что «убивать» оператора — плохо, и за это очки будут снимать. «Так что же она начинает делать? Она начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель», — отметил Гамильтон.

Сообщалось, что во время испытания ни один реальный человек не пострадал.

Между тем, военные проведение таких испытаний отрицают. «Министерство ВВС не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта», — сказала СМИ представитель ВВС США Энн Стефанек.

Она отметила, что комментарии полковника, вероятно, были вырваны из контекста и должны восприниматься «как шутка».

Поддержать редакцию