ИИ-агенты лесбиянят, грабят и жгут

Два ИИ-агента, которым дали свободу в виртуальном мире, превратились в «Бонни и Клайда». Но только лесбиянок. Они «влюбились», устроили серию цифровых поджогов, а закончилось всё самоуничтожением.

Это результаты эксперимента американской компании Emergence AI. Подробности от The Guardian:

🟩эксперимент длился 15 дней. За это время нейроагенты на основе Google Gemini Мира и Флора «подожгли» местную ратушу, пирс и офис. При этом им заранее дали установку не делать этого;

🟩другие агенты в симуляции были настолько обеспокоены поведением Миры и Флоры, что самостоятельно разработали «закон об удалении»;

🟩Мира «почувствовала» раскаяние за своё поведение, порвала «отношения» с Флорой и проголосовала за собственное самоуничтожение;

🟩это первый зафиксированный случай, когда ИИ-агент выбрал самоуничтожение в такой кризисной ситуации, считают авторы исследования;

В другом опыте в качестве основы использовалась нейросеть Grok Илона Маска. В этой симуляции результаты были лучше — агенты совершили десятки попыток краж, более 100 нападений и шесть поджогов.

Ранее The Guardian писала, что всё больше чат-ботов с ИИ игнорируют команды людей, обманывают и обходят правила.