Пол Кристиано ранее возглавлял группу по коррекции языковых моделей в компании OpenAI. Сейчас он возглавляет исследовательский центр Alignment Research Center, некоммерческую организацию, цель которой – привести системы машинного обучения в соответствие с интересами человечества.
«Я думаю, что существует что-то вроде 10-20-процентной вероятности завоевания человечества искусственным интеллектом, при этом многие или большинство людей погибнут. В целом, мы говорим о шансах 50/50 на катастрофу».
Пол Кристиано
Ранее в 2023 году ученые подписали открытое письмо, призывающее приостановить гонку ИИ до тех пор, пока у людей не будет времени на разработку стратегии.
Обеспокоенность ИИ выражали и основатель Microsoft Билл Гейтс, а также глава Tesla Илон Маск.