OpenAI взламывает ChatGPT

Financial Times: OpenAI нанимала экспертов для взлома ChatGPT

Появилась информация (https://archive.is/xu0wS#selection-2013.0-2043.111) о том, что компания работала со специальной группой из 50 экспертов, которые проводили агрессивное тестирование GPT-4. В течение шести месяцев эта «красная команда» должна была попытаться сломать модель.

В состав «красной команды» вошли учёные, преподаватели, юристы, аналитики рисков и исследователи. 

Интересные результаты: 

- Профессор химического машиностроения Рочестерского университета Эндрю Уайт сумел создать при помощи нейросети новое нервно-паралитическое вещество.

- GPT-4 предоставлял подробные сведения для проведения кибератак на военные системы.

- При помощи плагинов бот сможет размещать личную информацию в интернете, предоставлять доступ к банковским счетам и вызывать полицию. 

- В ходе тестирования ответы чат-бота становились значительно безопаснее.