Авторы чат-бота ChatGPT говорят об открытии, которое может угрожать человечеству

Исследователи компании OpenAI сообщили руководству о возможных угрозах, связанных с разработкой “мощного искусственного интеллекта”, который имеет потенциал угрожать человечеству. Предупреждение было направлено незадолго до увольнения Сэма Альтмана с поста генерального директора компании.

По информации Reuters, модель, известная под кодовым названием Q*, в настоящее время способна решать простые математические задачи, но это может стать ключом к созданию универсального искусственного интеллекта, способного справиться с широким спектром задач, соответствующих возможностям человеческого мозга.

Исследователи считают, что математика играет важную роль в развитии генеративного искусственного интеллекта. Современные генеративные нейронные модели успешно создают и переводят текст, используя статистические предсказания следующего слова. Однако освоение математики открывает возможности для расширения рассуждений и подобия человеческого интеллекта, отмечает Reuters.

Исследователи OpenAI не конкретизируют, какую именно угрозу представляет Q*. Среди ученых давно обсуждается опасность, которую представляют высокоинтеллектуальные машины, включая возможность принятия решения об уничтожении человечества в интересах ИИ.

По словам источника Reuters, некоторые сотрудники компании серьезно обеспокоены отсутствием должных мер безопасности со стороны OpenAI в отношении контролируемой разработки и коммерциализации подобных искусственных интеллектуальных моделей.

В марте текущего года, с появлением языковой модели GPT-4, глава OpenAI Сэм Альтман признался, что он \”немного боится\” своего создания и признал наличие реальной опасности, если оно попадет в “неправильные руки”. Ожидается, что выпускаемая в конце 2023 года модель GPT-5 достигнет невиданного уровня развития искусственного интеллекта.