ИИ сможет взять под контроль человечество и уничтожить его – экс-сотрудник OpenAI

19 мая 2023 Мир за ночь
Гонка за созданием более умных и быстрых искусственных интеллектов может привести к катастрофе. Бывший ключевой исследователь OpenAI Пол Кристиано предупредил, что существует вероятность в 50%, что эта гонка закончится «катастрофой» и «большинство людей погибнет», сообщает Zakon.kz.

Пол Кристиано ранее возглавлял группу по коррекции языковых моделей в компании OpenAI. Сейчас он возглавляет исследовательский центр Alignment Research Center, некоммерческую организацию, цель которой – привести системы машинного обучения в соответствие с интересами человечества.

«Я думаю, что существует что-то вроде 10-20-процентной вероятности завоевания человечества искусственным интеллектом, при этом многие или большинство людей погибнут. В целом, мы говорим о шансах 50/50 на катастрофу».

Пол Кристиано

Ранее в 2023 году ученые подписали открытое письмо, призывающее приостановить гонку ИИ до тех пор, пока у людей не будет времени на разработку стратегии.

Обеспокоенность ИИ выражали и основатель Microsoft Билл Гейтс, а также глава Tesla Илон Маск.

Поделиться:
58