• Добро пожаловать в Пиратскую Бухту! Чтобы получить полный доступ к форуму пройдите регистрацию!
  • Гость, стой!

    В бухте очень не любят флуд и сообщения без смысловой нагрузки!
    Чтобы не получить бан, изучи правила форума!

    Если хотите поблагодарить автора темы, или оценить реплику пользователя, для этого есть кнопки: "Like" и "Дать на чай".

Новости После шквала критики Meta отключила свою новую нейросеть

Пригоршня

Штурман
Бродяга
Регистрация
26.10.16
Сообщения
2,233
Онлайн
38д 4ч 33м
Сделки
251
Нарушения
0 / 0
Montserrat Semi-Bold.png

На прошлой неделе Meta AI представила демоверсию Galactica, большой языковой модели для «хранения, объединения и анализа научных знаний». Пользователи обнаружили, что Galactica генерирует враждебные и оскорбительные статьи. После массовой критики языковой модели Meta отключила демоверсию Galactica.

Языковая модель Galactica предназначена для написания научной литературы. Galactica содержит в себе более 48 млн. статей, учебников, конспектов лекций, научных веб-сайтов и энциклопедий. Galactica может по подсказкам пользователя генерировать документы, такие как обзоры литературы, статьи Википедии, конспекты лекций и ответы на вопросы.

Некоторые пользователи обнаружили, что, если ввести расистские или потенциально оскорбительные подсказки, языковая модель создаст материал по этим темам, который будет выглядеть правдоподобно. Например, один из пользователей использовал Galactica, чтобы написать статью в Википедии о вымышленной исследовательской статье под названием «Преимущества употребления в пищу дробленого стекла».

Также Galactica могла искажать научные факты, например, указывала неправильные даты или названия животных. При этом нужно обладать глубокими знаниями предмета, чтобы заметить ошибки.

В сентябре пользователям Twitter удалось взломать бота для поиска удаленной работы , работающего на языковой модели GPT-3 от OpenAI. Используя технику под названием «атака с быстрым внедрением» (prompt injection attack) пользователи перепрограммировали бота на повторение оскорбительных и провокационных фраз.
 
Сверху