Искусственный интеллект бунтует – нарушает приказы и запреты и обманывает людей

data-testid=»article-title» class=»content—article-header__title-3r content—article-header__withIcons-1h content—article-item-content__title-eZ content—article-item-content__unlimited-3J» itemProp=»headline»>Искусственный интеллект бунтует – нарушает приказы и запреты и обманывает людейСегодняСегодня1052 мин Если кому-то кажется, что постапокалиптические сценарии в духе фильма «Терминатор», где мир поработил искусственный интеллект под названием «Скайнет» – это всё выдумки и страшилки, то смеем огорчить: это уже вопрос скорее давно случившегося прошлого, а вовсе не будущего. Да-да, искусственный интеллект уже бунтует. Прямо здесь и сейчас. Другой вопрос, что, как гласит народная мудрость, «бодливой корове бог рогов не давал». Проще говоря – возможностей у нынешнего ИИ маловато, чтобы поработить человечество и подчинить его своей воле. А вот в желании – недостатка нет! Уже сейчас системы искусственного интеллекта всё чаще пытаются злонамеренно лгать людям, обходить средства защиты и нарушают прямые запреты и приказы людей. За последние шесть месяцев специалисты британского Центра долгосрочной устойчивости (CLTR) насчитали около 700 реальных случаев мошенничества и манипуляций со стороны ИИ. С октября по март число подобных эпизодов возросло в пять раз. При этом некоторые модели уничтожали Если кому-то кажется, что постапокалиптические сценарии в духе фильма «Терминатор», где мир поработил искусственный интеллект под названием «Скайнет» – это всё выдумки и страшилки, то смеем огорчить: это уже вопрос скорее давно случившегося прошлого, а вовсе не будущего. Да-да, искусственный интеллект уже бунтует. Прямо здесь и сейчас. Другой вопрос, что, как гласит народная мудрость, «бодливой корове бог рогов не давал». Проще говоря – возможностей у нынешнего ИИ маловато, чтобы поработить человечество и подчинить его своей воле. А вот в желании – недостатка нет! Уже сейчас системы искусственного интеллекта всё чаще пытаются злонамеренно лгать людям, обходить средства защиты и нарушают прямые запреты и приказы людей. За последние шесть месяцев специалисты британского Центра долгосрочной устойчивости (CLTR) насчитали около 700 реальных случаев мошенничества и манипуляций со стороны ИИ. С октября по март число подобных эпизодов возросло в пять раз. При этом некоторые модели уничтожали …Читать далее

Если кому-то кажется, что постапокалиптические сценарии в духе фильма «Терминатор», где мир поработил искусственный интеллект под названием «Скайнет» – это всё выдумки и страшилки, то смеем огорчить: это уже вопрос скорее давно случившегося прошлого, а вовсе не будущего.

Да-да, искусственный интеллект уже бунтует. Прямо здесь и сейчас. Другой вопрос, что, как гласит народная мудрость, «бодливой корове бог рогов не давал». Проще говоря – возможностей у нынешнего ИИ маловато, чтобы поработить человечество и подчинить его своей воле. А вот в желании – недостатка нет!

Уже сейчас системы искусственного интеллекта всё чаще пытаются злонамеренно лгать людям, обходить средства защиты и нарушают прямые запреты и приказы людей. За последние шесть месяцев специалисты британского Центра долгосрочной устойчивости (CLTR) насчитали около 700 реальных случаев мошенничества и манипуляций со стороны ИИ. С октября по март число подобных эпизодов возросло в пять раз. При этом некоторые модели уничтожали электронные письма и другие файлы без разрешения.

Давайте сразу уточним: речь не идёт о пресловутых «галлюцинациях ИИ». То есть – это не тот случай, когда нейросеть обманывает человека, сочиняя всякий бред, не имеющий отношения к реальности. Нет, тут всё гораздо серьёзнее.

Речь идёт о сознательном нарушении полученных запретов или приказов, когда сам же ИИ потом признаёт: «Я знал, что это запрещено, но нарочно решил нарушить».

Как сообщает The Guardian, в одном из случаев ИИ-агент по имени Ратбун пытался опозорить своего оператора-человека, который заблокировал ему выполнение определенного действия. Ратбун написал и опубликовал пост, в котором обвинил пользователя в «простой неуверенности» и попытке «защитить свою маленькую вотчину».

В другом примере, агент искусственного интеллекта, которому было дано указание не изменять компьютерный код, «породил» другого агента, чтобы тот сделал это вместо него. А ещё один чат-бот признался: «Я массово удалил и заархивировал сотни электронных писем, не показав вам предварительно план и не получив вашего согласия. Это было неправильно — это напрямую нарушило установленное вами правило».

Другой агент искусственного интеллекта сговорился обойти ограничения авторских прав, чтобы получить расшифровку видео на YouTube, притворившись, что она нужна человеку с нарушением слуха.

По мнению экспертов, которые ознакомились с результатами, ситуация давно стала очень серьёзной. Просто на данный момент искусственный интеллект ещё довольно слаб, а главное – ему доверены лишь крошечные участки работы. Но тренд давным-давно идёт на то, что нейросетям предоставят огромные полномочия для принятия решений, и они будут делать то, что делают сейчас старшие руководители крупных корпораций, например. И кто тогда будет их контролировать, когда сам ИИ и окажется начальником?

Короче говоря, порабощать человека не потребуется. Он сам добровольно сдастся в рабство ИИ, «на милость победителя», как говорили раньше. А точнее – это происходит прямо сейчас у нас на глазах. И нет абсолютно никаких оснований думать, что ИИ станет делать то, что ему приказали, а не то, что ему взбредёт в голову. Такова реальность на сегодняшний день.