Хинтон: человечество под угрозой из-за сверхинтеллекта
В сентябре 2026 года Джеффри Хинтон, лауреат Нобелевской премии по физике и один из создателей современных нейросетей, дал интервью британской The Times. Ученый предупредил о рисках полного исчезновения человечества из-за бесконтрольного развития искусственного интеллекта. Хинтон призвал власти ввести жесткий запрет на создание сверхмощных ИИ-систем.
По его словам, гонка вооружений в сфере ИИ продолжается без каких-либо гарантий безопасности. Хинтон считает крайне опрометчивым разработку сверхинтеллекта до появления абсолютного консенсуса в научном сообществе о надежных методах контроля (а такого консенсуса пока нет). Мы создаем технологии, способные превзойти человека, — не имея при этом механизмов защиты. Подумайте сами.
Что характерно, заявления ученого прозвучали именно тогда, когда в британском парламенте обсуждали законопроект от организации Control AI. Собственно, документ предлагает ограничить развитие сверхинтеллекта на законодательном уровне. Хинтон и выступает за подобные меры — жесткие запреты, пока технологии не будут полностью подконтрольны.
Те, кто работал с нейросетями, знают: даже современные модели иногда выдают такое, что сами разработчики не могут объяснить. Помню, на одной из конференций года два назад коллега показал, как их система внезапно начала генерировать код, которого не было в обучающей выборке. Где-то за стеной гудел проектор, и это было слышно даже через закрытую дверь. Никто тогда не смог ничего воспроизвести. Вот тут и начинается самое интересное: если простые модели уже выходят из-под контроля, что говорить о сверхинтеллекте?
Кстати, об этом же. В научной среде давно используют термин «проблема согласования» (alignment problem) — это когда цели ИИ не совпадают с человеческими. Хинтон как раз об этом и говорит: пока мы не научимся гарантировать безопасность, любые эксперименты с сверхмощными системами — это игра в русскую рулетку.
На практике регулирование выглядит сложнее, чем кажется. Один из кураторов тогда сказал мне, что даже базовые протоколы безопасности занимают месяцы согласований — а тут речь о чем-то гораздо более масштабном. Правда, не всё так просто.
Законопроект Control AI пока находится на стадии обсуждения. Хинтон требует немедленных действий, но политический процесс — штука медленная. Что из этого выйдет — вопрос.
