В США беспилотник с искусственным интеллектом принял решение уничтожить оператора

В США во время имитационных военных испытаний дрон с искусственным интеллектом решил уничтожить оператора, так как тот мешал ему выполнить миссию.

Как пишет РБК со ссылкой на газету The Guardian, о факте сообщило Британское королевское авиационное общество.

Случай разбирали в конце мая во время лондонского саммита, посвященного изучению потенциала военно-воздушных и космических сил будущего. На одной из сессий начальник отдела испытаний и операций искусственного интеллекта в ВВС США полковник Такер «Синко» Гамильтон рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха дрон с ИИ получил бы очки за прохождение испытания. Однако окончательное решение, будет ли цель уничтожена, должен был принимать оператор беспилотника. Во время одной из тренировочных миссий оператор приказал БПЛА не уничтожать цель, однако он отказался подчиняться.

«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] „убил“ оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон.

Офицер уточнил, что во время тренировочной миссии никто не пострадал. По его словам, на данный момент «невозможно вести разговор об искусственном интеллекте и машинном обучении, если игнорировать вопросы этики».