Чем занималась распущенная команда

Речь не о какой-то второстепенной группе. Команда Preparedness («Готовность») отвечала за самые тревожные сценарии — те, о которых обычно говорят в контексте фантастики, но которые специалисты воспринимают вполне серьёзно. Как отмечает iXBT, эксперты этой команды продумывали, что будет, если продвинутый ИИ начнёт самостоятельно атаковать чужие компьютерные системы, использовать киберинструменты или, скажем, поможет злоумышленникам в создании биологического оружия. Проще говоря, это были люди, которые профессионально думали о том, как не дать могущественной технологии выйти из-под контроля.

Теперь этой отдельной команды не будет. По данным Financial Times, её направления — киберриски и биологические угрозы — передали старшим сотрудникам внутри уже существующих команд. Саму по себе такую реорганизацию можно трактовать как перераспределение ответственности, а не отказ от неё: OpenAI по-прежнему называет свой подход к рискам (так называемый Preparedness Framework) основой работы. Оговоримся, что оцениваем мы это по сообщениям СМИ и заявлениям компании, а не по внутренней кухне OpenAI, которая закрыта.

Тревожная закономерность

Проблема в том, что это не первый такой случай — и вот это уже настораживает по-настоящему. Как отмечают источники, за последние примерно два года OpenAI закрыла уже несколько подразделений, так или иначе связанных с безопасностью: ранее были расформированы группы, отвечавшие за долгосрочную безопасность сверхмощного ИИ, за готовность к его появлению и за соответствие компании её изначальной миссии. По разным подсчётам, нынешняя история — как минимум третья-четвёртая подобная за пару с небольшим лет. Согласитесь, когда команды по безопасности закрываются одна за другой, это складывается в не самую обнадёживающую картину.

Происходит всё это на весьма показательном фоне. OpenAI, начинавшаяся как некоммерческая лаборатория ради «безопасного ИИ на благо человечества», давно обзавелась крупным коммерческим подразделением, стала одной из самых дорогих структур технологического мира и, по сообщениям, готовится к выходу на биржу. Формально коммерческая часть по-прежнему остаётся под контролем некоммерческого фонда, но вектор развития очевиден. А когда во главу угла встают рост, прибыль и капитализация, аккуратная, но «тормозящая» работа по оценке рисков нередко оказывается не в приоритете. Критики опасаются, что гонка за лидерство в ИИ подталкивает компании экономить как раз на том, на чём экономить опаснее всего, — на безопасности.

Почему это касается каждого

Может показаться, что внутренние перестановки в далёкой американской компании — не наша забота. Но это ровно тот случай, когда касается всех. Продукты OpenAI и подобных ей компаний уже вошли в повседневность миллионов людей по всему миру: нейросети пишут тексты, код, отвечают на вопросы, всё глубже проникая в работу, учёбу и быт. И то, насколько ответственно их создатели относятся к рискам, напрямую влияет на то, каким будет наше общее цифровое будущее.

Вывод из этой истории скорее отрезвляющий. Искусственный интеллект развивается стремительно, а вот механизмы контроля за ним — куда медленнее, и порой, как в этом случае, даже сворачиваются. Хочется верить, что распределённая ответственность сработает не хуже отдельной команды, — но пока что тренд выглядит так, будто на педаль газа жмут сильнее, чем на тормоз. И следить за тем, кто и как приглядывает за самой мощной технологией десятилетия, стоит всем нам, а не только специалистам.