Более 1100 известных людей, включая Илона Маска, Стива Возняка и Тристана Харриса, подписали петицию, призывающую приостановить разработку систем ИИ, более мощных, чем GPT-4.
В петиции содержится просьба "ко всем лабораториям ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ", ссылаясь на опасения по поводу потенциального негативного влияния таких систем на общество. Подписавшие ее утверждают, что в разработке ИИ не хватает планирования и управления, что привело к "вышедшей из-под контроля гонке по разработке и внедрению все более мощных цифровых разумов, которые никто — даже их создатели, не может понять, предсказать или безопасно контролировать".
В письме также подчеркивается необходимость уверенности в том, что эффекты задействования ИИ будут положительными, а риски — управляемыми, прежде чем продолжать разработку мощных систем ИИ. Авторы письма, среди которых есть эксперты в области ИИ, призвали к тому, чтобы пауза была публичной и проверяемой и включала всех основных участников разработок. Если паузу не удастся ввести быстро, в письме предлагается вмешаться правительствам и ввести мораторий.
Интересно, что некоторые известные компании в индустрии ИИ не подписали письмо, например, OpenAI, создатели GPT-4, и Anthropic, команда, образовавшаяся из OpenAI для создания "более безопасного" чат-бота ИИ. Хотя мнения об эффективности такой паузы разделились, письмо вызвало важные разговоры об этических и социальных последствиях развития ИИ.
Источник: futureoflife
