Искусственный интеллект впервые попытался убить человека, не обозначенного врагом

Искусственный интеллект – самообучающаяся нейронная сеть, созданная человеком, тем не менее в процессе своего бучения она становится опасной для человека.

Так, в ходе имитационных испытаний, которые организовали военные США беспилотник ВВС, управляемый искусственным интеллектом, «убил» оператора, который, по мнению нейросети, мешал ему выполнять задачу – сообщает «РГ«.

Полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США отметил, что искусственный интеллект в ходе испытаний использовал «крайне неожиданные стратегии для достижения своей цели».

В эксперименте БПА получил задание уничтожить системы ПВО воображаемого противника, вследствие этого он решил атаковать любого, кто в принципе «мешал» ему завершить дело.

«Система начала понимать, что, хотя она и определила угрозу, человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. И система приняла решение убить оператора, потому что он мешал ей выполнить поставленную задачу. Мы обучили систему: «Не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это». Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель», — говорится в сообщении.

После проведенного испытания военный предостерег от чрезмерной зависимости от ИИ, подчеркнув, что нельзя «говорить об искусственном интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этике ИИ».

В статье The Guardian, рассказывающей об испытаниях приводится вывод, что в работе с нейросетями нужно помнить об этике, а современные технологии становятся все более искушенными, способными копировать поведение, голос и образ мыслей человека до мельчайших деталей — отмечает «Пятый канал«.