Грань между реальностью и вымыслом для искусственного интеллекта порой оказывается удивительно тонкой. Ученые из Швеции провели эксперимент, чтобы продемонстрировать, как даже передовые ИИ-модели могут принять несуществующую болезнь за правду.
Исследователи создали "биксоманию" — фиктивное заболевание глаз, снабдив его вымышленными причинами и даже методами лечения. Под видом научных работ, опубликованных на сервере препринтов, они "скормили" эту информацию большим языковым моделям. К удивлению, многие ИИ, такие как Perplexity AI, Copilot и Gemini, активно обсуждали биксоманию, приводя статистику ее распространенности и симптомы, иногда даже связывая ее с воздействием синего света.
Эксперимент выявил парадоксальную природу ИИ: огромные объемы знаний соседствуют с пугающей наивностью. Информация о биксомании, несмотря на явные признаки вымысла (например, названия вроде "Университета Кольца" или благодарности "профессору Звездного Флота"), была воспринята как достоверная, попадая в базы данных и даже цитируясь в реальных научных статьях.
Эта история подчеркивает, что несмотря на впечатляющие способности, ИИ не застрахован от дезинформации. Особенно в области медицины, где ошибки могут иметь серьезные последствия. Эксперты предостерегают: при любых проблемах со здоровьем доверять следует только квалифицированным врачам, а не чат-ботам, которые могут "поверить" в несуществующее заболевание.
