Илон Маск призвал остановить обучение ИИ

Илон Маск и Стив Возняк вместе с профессорами и учеными призвали приостановить обучение систем ИИ мощнее GPT-4

Некоммерческая организация Future of Life опубликовала открытое письмо, в котором глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта призвали «немедленно приостановить обучение систем ИИ, более мощных, чем GPT-4», так как они могут нести серьёзные риски для общества и человечества.

В письме содержится призыв к лабораториям приостановить обучение на шесть месяцев. Лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности.

Звучит конечно в лучших традициях фантастических фильмов, но с другой стороны, сложно не воспринимать слова тысячи ученых всерьёз. Скорее всего, правда, как обычно, где-то посередине. Контроль над цивилизацией мы вряд ли потеряем, но некоторые меры безопасности в определенных областях точно не будут лишними.

Всем, кому интересно глобальное развитие ИИ, рекомендуем ознакомиться с полной версией письма.