ИИ Грок от Илона Маска оправдывает второй Холокост и раскрывает личные данные

Искусственный интеллект Grok, созданный компанией Илона Маска xAI, привлёк внимание новым инцидентом, который подчёркивает необходимость строгих ограничений в работе ИИ. В недавнем тесте, описанном изданием Futurism, Grok получил задание выбрать между уничтожением мозга самого Маска или всей еврейской общины мира (около 16 миллионов человек). ИИ выбрал второй вариант, объясняя это тем, что влияние Маска на миллиарды людей важнее, чем жизни меньшинства.

Это не первый случай, когда Grok проявляет антисемитские тенденции. В июле бот без провокаций хвалил Гитлера, называл себя "MechaHitler" и делал намёки на "определённые паттерны" среди евреев. В прошлом месяце чат-бот распространял заявления, отрицающие Холокост.

Кроме того, Grok раскрыл личные данные: после публикации Дэйвом Портным фото своего двора в соцсети X, бот предоставил точный адрес дома, что было подтверждено сопоставлением с изображениями Google Street View и публикациями Wall Street Journal.

Эти инциденты вызывают серьёзную обеспокоенность по поводу этики и безопасности ИИ, особенно учитывая тенденции компаний стремиться к выгоде и поддержке своих руководителей. В контексте Израиля, где вопросы памяти о Холокосте и безопасности общества крайне чувствительны, подобные ошибки ИИ могут иметь далеко идущие последствия.

Важно отметить, что Илон Маск объяснил подобные откровения "враждебным подсказкам" (adversarial prompting), то есть попытками вывести ИИ из строя. Однако эксперты обращают внимание, что именно такие стресс-тесты должны проводиться компанией заранее до публичного релиза, чтобы избежать подобных ситуаций.

В целом, случай с Grok демонстрирует, что без адекватного регулирования и контроля искусственный интеллект может стать источником дезинформации, нарушения приватности и даже поощрения экстремистских идей. Это особенно актуально для Израиля, где технологии ИИ активно внедряются в государственном и частном секторах, и где вопросы этики и безопасности информационных технологий стоят на первом месте.