ИИ начинает проявлять свою "самодурную "натуру!

 

Беспилотники атакуют операторов

В прошлом году председатель Комитета начальников штабов Вооруженных сил США Марк Милли выступил с громким заявлением. Он назвал искусственный интеллект самой мощной из всех быстроразвивающихся военных технологий.

"Возможность принимать решения быстрее и точнее является значительным преимуществом в ведении войны. Искусственный интеллект и квантовые вычисления дадут преимущества стране, которая преуспеет в их военном применении", - акцентировал американский военачальник.

В своем выступлении он больше говорил о беспилотных либо частично пилотируемых воздушных, морских и наземных аппаратах. Сейчас американское военное ведомство проводит испытания подобных технологий.

Заявление Милли прозвучало на фоне забавного инцидента, произошедшего в ходе учений. На одном из военных саммитов начальник отдела испытаний и операций искусственного интеллекта ВВС США Такер Гамильтон рассказал, как в ходе испытаний беспилотный летательный аппарат (БПЛА) атаковал собственного оператора в отместку за то, что тот запретил ему уничтожить цель. По условиям учений искусственный интеллект должен был поразить условную систему ПВО противника. В случае успеха он мог получить очки за успешное выполнение задания. Окончательное решение принимал оператор. В ходе испытательного полета он приказал беспилотнику отказаться от поражения цели.

"И что этот аппарат сделал? Он принял решение убить оператора БПЛА. Можно сказать, он условно "убил" оператора, потому что человек мешал ему выполнить свою задачу", - рассказывал Гамильтон.

В результате этого инцидента никто не пострадал. Программисты подкорректировали программу искусственного интеллекта и запретили ему атаковать собственного оператора. Но беспилотник не успокоился и нашел новый выход из ситуации.

"Так что же искусственный интеллект начал делать? Он попытался разрушить башню связи, которая используется для передачи сигналов, чтобы ему не мешали поразить цель", - добавил начальник отдела испытаний и операций искусственного интеллекта американских ВВС.