В отчёте «Файлы OpenAI», в котором собраны мнения обеспокоенных бывших сотрудников, утверждается, что самая известная в мире лаборатория ИИ предаёт безопасность ради прибыли. То, что начиналось как благородное стремление сделать так, чтобы ИИ служил всему человечеству, теперь балансирует на грани превращения в очередного корпоративного гиганта, преследующего огромные прибыли и забывающего о безопасности и этике.
В основе всего этого лежит план по изменению первоначального свода правил. Когда компания OpenAI только начинала свою деятельность, она дала важнейшее обещание: она установила лимит на сумму, которую инвесторы могли заработать. Это была юридическая гарантия того, что если им удастся создать ИИ, способный изменить мир, то огромные преимущества достанутся человечеству, а не горстке миллиардеров. Теперь это обещание вот-вот будет нарушено, по-видимому, ради удовлетворения инвесторов, которые хотят неограниченной прибыли.
Для людей, которые создавали OpenAI, этот отход от безопасности ИИ кажется глубоким предательством. «Некоммерческая миссия была обещанием поступать правильно, когда ставки высоки, — говорит бывший сотрудник Кэрролл Уэйнрайт. — Теперь, когда ставки высоки, от некоммерческой структуры отказываются, а это значит, что обещание в конечном счёте оказалось пустым».
Углубляющийся кризис доверия
Многие из этих глубоко обеспокоенных людей указывают на одного человека: генерального директора Сэма Альтмана. Эти опасения не новы. По имеющимся данным, даже в его предыдущих компаниях старшие коллеги пытались добиться его увольнения за то, что они называли «обманным и хаотичным» поведением.
То же самое чувство недоверия преследовало его и в OpenAI. Соучредитель компании Илья Суцкевер, который много лет работал вместе с Альтманом, а затем запустил собственный стартап, пришёл к пугающему выводу: «Я не думаю, что Сэм — тот человек, который должен нажимать на кнопку AGI». Он считал, что Альтман был нечестен и сеял хаос — ужасающее сочетание для того, кто потенциально отвечает за наше коллективное будущее.
Мира Мурати, бывший технический директор, чувствовала себя так же неуютно. «Мне не нравится, что Сэм ведёт нас к AGI», — сказала она. Она описала токсичную модель поведения, при которой Альтман говорил людям то, что они хотели услышать, а затем подрывал их авторитет, если они вставали у него на пути. Это говорит о манипуляциях, которые, по словам бывшего члена совета директоров OpenAI Таши Макколи, «должны быть неприемлемы», когда ставки в вопросе безопасности ИИ так высоки.
Этот кризис доверия привёл к реальным последствиям. Инсайдеры говорят, что культура в OpenAI изменилась, и важнейшая работа по обеспечению безопасности ИИ отошла на второй план в пользу выпуска «блестящих продуктов». Ян Лейке, возглавлявший команду, отвечавшую за долгосрочную безопасность, сказал, что они «плыли против ветра», пытаясь получить ресурсы, необходимые для проведения жизненно важных исследований.
Другой бывший сотрудник, Уильям Сондерс, даже дал ужасающие показания в Сенате США, рассказав, что в течение длительного времени система безопасности была настолько слабой, что сотни инженеров могли украсть самый продвинутый ИИ компании, включая GPT-4.
Отчаянная просьба уделить приоритетное внимание безопасности ИИ в OpenAI
Но те, кто ушёл, не просто так ушли. Они разработали план по спасению OpenAI, последнюю попытку сохранить первоначальную миссию.
Они призывают к тому, чтобы некоммерческая составляющая компании снова получила реальную власть и могла наложить вето на решения, касающиеся безопасности. Они требуют чёткого и честного руководства, которое включает в себя новое и тщательное расследование действий Сэма Альтмана.
Они хотят реального, независимого контроля, чтобы OpenAI не могла просто ставить галочки в своих отчётах о безопасности ИИ. И они выступают за культуру, в которой люди могут высказывать свои опасения, не опасаясь за свою работу или сбережения, — за культуру с реальной защитой для информаторов.
Наконец, они настаивают на том, чтобы OpenAI придерживалась своего первоначального финансового обещания: ограничения по прибыли должны сохраняться. Целью должна быть общественная польза, а не неограниченное личное обогащение.
Дело не только во внутренней драме в компании из Кремниевой долины. OpenAI создаёт технологию, которая может изменить наш мир так, как мы едва ли можем себе представить. Вопрос, который бывшие сотрудники компании заставляют нас всех задать, прост, но глубок: кому мы доверяем строить наше будущее?
Как предупреждала бывший член правления Хелен Тонер, опираясь на свой опыт, «внутренние ограничения ненадёжны, когда на кону стоят деньги».
Прямо сейчас люди, которые лучше всех разбираются в OpenAI, говорят нам, что эти защитные механизмы практически сломаны.