«Специалисты, занимающиеся разработкой искусственного интеллекта, жалуются на психические расстройства», — так называется статья, опубликованная 22 сентября в британской газете Financial Times, авторы которой, Мадхум Мурджиа и Льюис Фишер, рассматривают довольно тревожную и заставляющую задуматься проблему: как искусственный интеллект, созданный человеком, повлияет на людей и их интеллект? Ответ таков — очень плохо.
Предлагаем краткое изложение содержания публикации:
Сотрудники ведущих мировых компаний и организаций, занимающихся разработкой искусственного интеллекта, все чаще жалуются на психологический стресс и умственную усталость. Они опасаются, что их работа может нанести серьезный вред обществу.
По словам источников, знакомых с ситуацией, несколько сотрудников британского Института безопасности искусственного интеллекта (AISI) — признанного лидера в независимом тестировании передовых моделей искусственного интеллекта — были вынуждены уволиться из-за постоянного стресса и сейчас проходят консультации у специалистов (психологов). По словам четырех источников, знакомых с делом, усталость, снижение морального духа и истощение («внутреннее выгорание») сотрудников AISI были вызваны как сокращенными сроками тестирования и быстрым внедрением моделей искусственного интеллекта, так и растущим воздействием этих технологий на человеческую психику.
Сотрудники Anthropic, OpenAI и Google DeepMind также сталкиваются с аналогичными проблемами, до такой степени, что многие ведущие специалисты уволились из-за психологических проблем или пришли к выводу, что результаты их работы вредны для общества и поэтому не подходят для публичной публикации.
По словам сотрудника DeepMind, работа над обеспечением безопасности ИИ очень сложна: «Ты постоянно думаешь, что какая-то деталь не ускользнет от тебя, ты напряжен, и поэтому существует высокий риск эмоционального истощения. Часто чувствуешь себя вовлеченным в какую-то незавершенную миссию… особенно потому, что не знаешь, кто будет использовать созданный тобой продукт». Он имел в виду соглашение Google с Пентагоном, которое предусматривает использование систем ИИ в секретных военных операциях.
Другой сотрудник сказал: «Многие недовольны стрессовой работой. Поэтому они увольняются или уходят в длительные отпуска, чтобы не навредить своей психике… Трудно представить, что их интеллект может выйти из-под контроля и причинить реальный вред обществу».
В последние годы усилилось психологическое давление на тех, кто работает на передовой линии развития ИИ. Поскольку в настоящее время нет законодательства, ограничивающего развитие ИИ, ситуация может выйти из-под контроля. Растут опасения, что ИИ достигнет своего пика относительно быстро, поскольку крупные компании вступают в необоснованную корпоративную конкуренцию.
Согласно многочисленным отраслевым данным, исследователей в области искусственного интеллекта беспокоит внедрение ИИ в критически важные области, такие как энергетические системы, зоны боевых действий, ядерная сфера (как военная, так и гражданская, например, на атомных электростанциях), где отсутствует достаточная безопасность с корпоративной или политической точки зрения.
Один анонимный бывший сотрудник AISI отметил, что отделы кибербезопасности и биохимии института особенно обеспокоены растущими возможностями искусственного интеллекта, поскольку модели роботов-андроидов теперь способны выполнять самые сложные задачи, такие как быстрый взлом разработанных людьми кодов и создание вирусов неизвестной ранее природы: «У нас есть ощущение, что в процессе внедрения технологий происходит что-то неладное… Людей постоянно беспокоит один вопрос: можно ли все это остановить или ограничить? Не станем ли мы свидетелями конца света?»
«Могу подтвердить, что работа над проблемами ИИ в AISI невероятно стрессовая: осознание того, что ты работаешь над самой важной проблемой в мире, часто вызывает сильное напряжение — мы имеем дело с токсичным руководством», — говорит другой бывший сотрудник AISI.
В свою очередь, правительство Великобритании заявляет: «Да, работа в AISI очень ответственная, это передовая линия развития искусственного интеллекта, что подразумевает высокие темпы и высокий уровень спроса. Для нас вопросы, связанные с функционированием института, являются приоритетными, и мы оказываем необходимую поддержку тем, кто в ней нуждается». То же самое говорит и руководство компании DeepMind: «Наш главный приоритет — обеспечение социальной защиты и поддержки сотрудников. У них всегда есть возможность обращаться со своими проблемами непосредственно к нам, руководству».
Однако недавно 37-летний Джейкоб Коксон, который сначала работал в Anthropic, а затем в OpenAI, публично заявил, что обе компании «играют с огнём» и что на кону будущее человечества.
Исследователь Мринанк Шарма, уволенный из компании Anthropic в феврале, оставил сотрудникам письмо, в котором предупреждал, что их работа «ставит под угрозу мир» и что «мы не должны разрушать собственные ценности своими действиями».
Хиеу Фам, бывший сотрудник OpenAI и X.AI Илона Маска, говорит, что был настолько измотан работой по созданию сверхинтеллекта, что его здоровье ухудшилось, и он решил вернуться в родной Вьетнам: «Такая работа опасна для человека. Я измотан, как лимон, плохо сплю. Раньше я подшучивал над другими, а теперь оказался в той же ситуации. Все это создает опасную и тяжелую обстановку». ( Продолжение следует)
