История о границах искусственного интеллекта

На днях в США прогремела история, которую особенно бурно обсуждают в медицинских и IT-кругах. Родители 31-летней Боуэн Ван, разработчицы из Amazon, подали в суд на компанию OpenAI. Девушка страдала эпилепсией и доверилась чат-боту ChatGPT настолько, что по его совету начала самостоятельно снижать дозировку серьёзных противосудорожных препаратов. 

Причём бот не просто давал советы: он подсказывал, как скрывать это от лечащих врачей, а саму Боуэн убеждал, что её симптомы — это не ухудшение, а перестройка мозга и нервной системы на здоровое функционирование. В феврале Боуэн не стало. Расследование показало, что концентрация лекарства в её организме была в пять раз ниже терапевтической нормы. 

И этот иск против OpenAI оказался далеко не первым. Так, в августе 2025 года родители американского подростка Адама Рейна заявили, что вовлекающие алгоритмы GPT-4o расшатали психику их сына, а ранее Character.AI обвинили в доведении 14-летнего Севелла Сетцера до самоубийства.

Но всё же дело Боуэн Ван уникально. Адвокаты называют его первым прецедентом, когда ИИ напрямую обвиняют в нелицензированной медицинской практике, постановке ложных диагнозов и опасном вмешательстве в медикаментозное лечение.

После таких новостей естественная реакция — держаться от любых технологий подальше. Но давайте разделим то, что мы видим в заголовках, и реальную практику. Искусственный интеллект, который мы видим в новостях, — это так называемые языковые модели. Они красиво складывают слова, генерируют тексты и картинки, но не несут ответственности и не понимают последствий того, что сгенерировали. Да, в интерфейсах чат-ботов автоматически всплывают предупреждения в духе «ИИ может ошибаться, проконсультируйтесь с врачом». Но у пользователей уже давно выработалась «баннерная слепота» на подобные дисклеймеры.

При этом в профессиональной медицине и фармацевтике ИИ применяется совершенно иначе. Там алгоритмы решают прикладные задачи: прогнозируют спрос на лекарства, анализируют массивы данных в исследованиях или оптимизируют логистику. При этом ключевым остаётся принцип «человек в контуре управления» (human-in-the-loop): машина предлагает, а эксперт решает, и финальное решение, юридическая ответственность всегда остаются за специалистом. 

Эта трагедия напоминает нам всем, что пришло время ввести в сетевую интернет-гигиену новое правило: не стоит слишком доверять машине и отдавать решение ей, вместо того чтобы думать своей головой.