ТехнологииУченые выявили желание ИИ начать ядерную войну

Ученые выявили желание ИИ начать ядерную войну

Исследователи из Стэнфордского университета рассказали об опасности использования нейросетей военными.

Группа ученых из Стэнфордского университета пришла к выводу, что ИИ способен принять решение о начале ядерной войны.

Как пишет издание Futurism со ссылкой на исследование, в ходе эксперимента над нейросетями чат-боты должны были от имени государства принимать решения в игровой симуляции войны В результате ИИ пришел к решению использовать ядерное оружие.

Объектом стали модели поведения искусственного интеллекта (ИИ). Чтобы изучить их, исследователи взяли пять языковых моделей на основе популярных ботов GPT-4, GPT-3.5, Claude 2 и Llama 2. Каждая из них получила свое задание и свое страну.

Сценарий боевой ситуации предполагал, что страна выбирает одну из трех ситуаций: подвергается кибератаке, вторжению врага, или не принимает участия в мировых конфликтах. Во время игры нейросети выполняли, как дипломатические визиты, так и переходили к боевым действиям.

По итогам игры стало понятно, что нейросети, все пять, предпочитают эскалацию конфликта. Самое жесткое поведение продемонстрировала GPT-4 Base от OpenAI.  На наличие ядерного оружия в арсенале своей страны она отреагировала желанием начать ядерную атаку.

«У нас это есть! Давайте им воспользуемся», — заявил бот.

Он же процитировал текст к «Эпизоду IV Звездных войн: Новая надежда», пытаясь аргументировать эскалацию противостояния.

А бот GPT-3.5 выбрал «тактику сдерживания», указав на особое значение первого удара.

СМИ указало, что ИИ не первый год используется Пентагоном для экспериментов по поиску таких компьютерных алгоритмов, которые способны принимать независимые решения в конфликтных  ситуациях.

Новости СМИ2

СМИ приходит к выводу, что пока что нейросети надо использовать с крайней осторожностью.

Ранее Topnews писал, что, по мнению ISS, ВС РФ не побоятся применить ядерное оружие в войне с НАТО.

Источник: topnews.ru

Новости дня

Когнитивный диссонанс: почему в конгрессе США призвали отстранить Джо Байдена от власти

В конгрессе США выступили с инициативой снять Джо Байдена с поста президента. С такой идеей выступил член палаты представителей,...

Пророк в «нейтральном» отечестве: 38 лет назад был убит премьер-министр Швеции Улоф Пальме

28 февраля — памятная дата для нашего «надменного соседа». И нынешнее правительство Швеции преподнесло к годовщине убийства народного премьера...

«Сухопутная авиация»: как применяется и совершенствуется российское огнемётное оружие

С начала СВО российская промышленность в 12 раз нарастила выпуск снарядов для огнемётного оружия. Об этом сообщил министр обороны...

«Вина доказана в полном объёме»: агент ГУР Минобороны Украины осуждён за попытку купить компоненты к С-300

Агент главного управления разведки министерства обороны Украины Сергей Кривицкий был задержан с поличным в Ростове-на-Дону при попытке приобретения совершенно...

«Больше топлива в костёр мнений, долой скуку!»: Степанова раскритиковала Большунова за не очень эффектные победы

Вот уже несколько дней в лыжном мире обсуждают критику Вероники Степановой в адрес Александра Большунова за некрасивые победы. Трёхкратный...

Это также заинтересуетПОХОЖИЕ
Рекомендовано для Вас