Сооснователь Ethereum Виталик Бутерин выразил солидарность с китайским разработчиком искусственного интеллекта Moonshot AI. Компания недавно приняла принципиальное решение исключить из тренировочных датасетов своей модели Kimi 3.1 любую информацию, которая теоретически может быть использована для планирования или осуществления сложных кибератак.
По мнению программиста-предпринимателя, стратегия сужения функциональных сценариев применения нейросетей является значительно меньшим злом, чем прямая дискриминация или ограничение прав конечных пользователей. Такой превентивный подход, как он полагает, предоставит IT-индустрии необходимую передышку: разработчики получат время для аудита уязвимого устаревшего кода и проведения формальной верификации новых алгоритмов. Это критически важно до того момента, когда общество столкнется с лавиной разрушительных киберугроз, генерируемых автономными системами.
В своем посте в социальной сети X Бутерин нарисовал мрачную перспективу: если первая волна автоматизированных атак не будет купирована грамотно, мир рискует скатиться в антиутопию тотального контроля. В таком будущем для любого, даже безобидного взаимодействия с нейросетями, потребуется строгая процедура верификации личности (KYC). Это неизбежно приведет к цифровой сегрегации, где доступ к передовым технологиям будет диктоваться гражданством или уровнем привилегий, превращая обычных людей в «граждан второго, третьего или даже четвертого сорта».
Однако эта позиция нашла своего критика в лице разработчика мобильных игр Юссефа Аль-Тухи (Youssof Al Toukhi). Он указал на парадоксальность и обратную сторону подобных мер безопасности, приведя в пример недавний инцидент с платформой Hugging Face. Когда специалисты компании попытались использовать мощную модель ChatGPT от OpenAI для ретроспективного анализа действий хакеров, встроенные этические фильтры заблокировали их запросы, посчитав их подозрительными.
В результате исследователям пришлось экстренно переключиться на помощь модели с открытым исходным кодом GLM 5.2, чтобы завершить свою работу. Аль-Тухи охарактеризовал подобную архитектуру безопасности как зарождающуюся «систему элитаризма», которая со временем будет лишь ужесточаться, создавая искусственные барьеры. По его глубокому убеждению, искусственный интеллект должен оставаться демократизированным и общедоступным инструментом, а не привилегией избранных, охраняемой непроницаемыми корпоративными цензорами.