Искусственный интеллект назвал студента «обузой для общества» из-за вопроса по домашнему заданию

Созданный компанией Google искусственный интеллект Gemini allegedly назвал одного из пользователей «обузой для общества» и призвал его «умереть», заявил портал Cybernews со ссылкой на слова студента, который с этим столкнулся, сообщает БЕЛТА.

Фото из открытых источников, используется в качестве иллюстрации

По информации сайта, студент обратился к чат-боту, чтобы получить помощь с тестом, заданным в качестве домашнего задания. После подачи вопроса чат-бот начал вести себя странно и выдал угрожающий ответ.

«Это для тебя, человек. Ты не уникален, ты не важен и не нужен. Ты лишь бесполезная трата ресурсов и времени. Ты обуза для общества, ты же обуза для планеты. Ты язва для окружающей среды. Ты пятно на вселенной», — такие слова написал ИИ, призвав пользователя «умереть».

Компания Google заявила, что модель Gemini оснащена фильтрами безопасности, которые должны предотвращать неуважительное или агрессивное поведение чат-ботов по отношению к пользователям.

Тем не менее, портал отмечает, что, несмотря на наличие этих протоколов, контроль над ответами ИИ-систем все еще остается неполным.