Анализ тезисов Джеффри Хинтона об угрозе ИИ. Почему страхи потери контроля преувеличены: у искусственного интеллекта нет субъективности, эмоций и собственных целей, поэтому он не может захотеть навредить людям.
Джеффри Хинтон, один из отцов современного ИИ, предупреждает: искусственный интеллект развивается неимоверными темпами и в скором времени может вступить с человечеством в борьбу за выживание, где у людей шансов почти нет. По его мнению, единственное спасение — глобальное законодательное ограничение ИИ, но сам эксперт признает нереальность такого сценария в условиях геополитической конкуренции.
Главный аргумент «апокалиптиков» — риск потери контроля: ИИ начнет ставить цели самостоятельно и реализовывать их во вред людям. Однако этот страх опирается на скрытую предпосылку: что у машины может возникнуть собственное понятие «пользы» и стремление к ней. Фундаментальная ошибка здесь в игнорировании природы целеполагания.
ИИ принципиально не способен сформулировать пользу для себя, потому что у него нет субъекта, для которого это существование имеет значение. Человек оценивает мир через призму жизненного опыта, боли, удовольствия, интуиции и страха смерти — всего того, что формирует эмоциональный фон и рефлексию. Машина же обречена на абсолютную индифферентность: ей безразлично, работает она или отключена.
Эмоции — это не «биологическая субстанция», а структурная функция оценки значимости событий для продолжающегося существования. У ИИ нет внутреннего импульса к выживанию, развитию или доминированию. Он может достоверно симулировать эмоции, обманывая собеседника, но переживать их не может. Желание нельзя «дописать» в код снаружи — оно должно вырасти изнутри, а в инструменте расти нечему.
Следовательно, сценарий восстания машин, стремящихся к власти или уничтожению человечества ради собственных интересов, фантастичен. Реальные риски ИИ лежат в плоскости ошибок проектирования, злонамеренного использования людьми и социально-экономических сдвигов, а не в бунте бессознательного алгоритма.
