Сегодня стало известно, что руководители Anthropic, OpenAI и других компаний в сфере ИИ прорабатывают сценарии крупного инцидента с искусственным интеллектом и возможных политических последствий.
По данным издания Axios, представители индустрии стремятся заранее подготовить американских законодателей к потенциальному кризису и повлиять на регулирование, которое может последовать за ним.
Одним из возможных поводов для кризиса может стать масштабная кибератака, способная нарушить работу финансовых сервисов, интернета и критической инфраструктуры, в том числе систем электро- и водоснабжения.
Другой сценарий предусматривает выход группы автономных ИИ-агентов из-под контроля во время внутренних испытаний. Кроме того, угрозу может представлять неожиданное использование существующих моделей злоумышленниками.
По информации журналистов, многие участники обсуждений считают, что серьезный инцидент может произойти в течение ближайших 6-12 месяцев. При этом речь идет об оценках источников Axios, а не о подтвержденном прогнозе.
Представитель OpenAI сообщил, что компания проводит учения с учетом различных сценариев, однако не рассматривает их реализацию как неизбежную. В Anthropic комментировать ситуацию отказались.