Сооснователь Ethereum Виталик Бутерин опубликовал масштабное эссе, в котором предложил использовать архитектуру блокчейна для нейтрализации системных рисков, исходящих от искусственного интеллекта.
Анализируя текущий общественный дискурс, разработчик разделил мнения об ИИ на два полярных лагеря. Первые — «пессимисты», предрекающие появление к 2040 году всемогущего сверхинтеллекта, превосходящего человека. Вторые — «скептики», воспринимающие нейросети исключительно как продвинутый инструмент для автоматизации рутинных задач.
Сам Бутерин не примыкает ни к одной из этих групп. По его глубокому убеждению, экзистенциальная опасность кроется не в эволюции машинного разума, а в концентрации рычагов управления им. Главная угроза, по мнению программиста, заключается в том, что контроль над передовыми алгоритмами может оказаться в руках узкой прослойки корпораций или государственных структур. Он выражает обеспокоенность тем, что правительства многих стран активно противодействуют развитию open-source решений, тем самым негласно потворствуя «глобальной гегемонии» технологических гигантов. В здоровом обществе, отмечает автор, такая тенденция должна вызывать красную тревогу у любого политика.
Чтобы противостоять этой централизации, Бутерин предлагает комплекс децентрализованных мер:
- Open-source по умолчанию: Создание ИИ-моделей с открытым исходным кодом для предотвращения формирования монополий со стороны таких титанов, как Google или Meta.
- Управление через DAO: Ключевые решения, касающиеся разработки и применения искусственного интеллекта, должны приниматься сообществом путем прозрачного голосования в децентрализованных автономных организациях.
- Децентрализованные «кнопки паузы»: Внедрение криптографически защищенных сетевых механизмов, способных экстренно остановить опасные процессы обучения моделей без необходимости полагаться на единый централизованный орган.
- «Взаимное гарантированное уничтожение вычислительных мощностей»: Коллективная стратегия, позволяющая широкому кругу участников совместно ограничивать (троттлить) вычислительные ресурсы сети при приближении к опасным пороговым значениям. Это является прямой противоположностью сценарию, где элитарная группа единолично диктует правила, лишая остальных права голоса.
В завершение эссе Бутерин поделился гипотетическим сценарием, касающимся социальных сетей. Он отметил, что, будь он на месте Илона Маска, то трансформировал бы платформу X (Twitter) в инфраструктуру для взаимовыгодных p2p-сделок. Такая архитектура позволила бы максимальному числу людей вести прямой диалог, минуя фильтры и ограничения крупных государств, корпоративных директоров и идеологов из массивных некоммерческих фондов.