"Кольцо власти" Альтмана. Кто контролирует Искусственный Интеллект

Искусственный интеллект немыслимо обогащает своих создателей и дает им огромные финансовые рычаги в политике, а обычным избирателям обещает в будущем мир процветания и благоденствия, но до той поры – выросшие цены на электричество и уменьшение рабочих мест. Это порождает тревогу и неуверенность в будущем – и это может быть опасным для всех участников драмы.

Об этом в новом выпуске "Популярной Америки" говорят Константин Сонин, профессор экономики Чикагского университета, и ведущий подкаста Радио Свобода "Читая новости" Валентин Барышников.

Выдержки из подкаста:

– Сегодня утром я прочитал текст на Axios и хочу процитировать его начало:

"Шесть фактов. Без преувеличений. Все за последние 60 дней.

• Искусственный интеллект – самая быстрорастущая производственная категория в мировой истории.
• Одна из последних моделей настолько мощна, что её создатель не хочет выпускать ее для публичного использования.
• OpenAI и Anthropic заявляют, что их самые мощные модели кодирования теперь строят сами себя.
• Компании, занимающиеся ИИ, становятся менее прозрачными по мере того, как модели становятся более мощными. Федеральное правительство при этом не требует никакой прозрачности.
• Недовольство AI быстро растёт. В начале апреля дом генерального директора OpenAI Сэма Альтмана в Сан-Франциско стал мишенью двух атак за одну неделю. Потрясенный, он написал: "Страх и тревога по поводу ИИ оправданы, власть не может быть слишком сконцентрирована".
• Разрушительные последствия и больше не являются теоретическими. Инвесторы еженедельно осознают, какие новые задачи, выполняемые людьми, будут уничтожены новейшими моделями – от программирования до услуг в сфере недвижимости, от юридических исследований до финансового управления.

"Нас предупреждали, – пишет Axios, – что мы высвободили нечто мощное, нечто, что понимают лишь немногие, особенно среди тех, кто находится у власти. Воспринимайте это как рассвет новой атомной эры!" И далее Аксиос пишет о потенциале новой технологии как для процветания, так и для разрушения".

Еще я хочу зачитать фрагменты упоминавшегося поста Сэма Альтмана, который 11 апреля, после нападения на его дом, поместил в блоге фотографию членов своей семьи и написал:

"Я делюсь фотографией в надежде, что она разубедит следующего человека от попытки бросить коктейль Молотова в наш дом, независимо от того, что он обо мне думает.

Первый человек сделал это прошлой ночью, в 3:45 утра. К счастью, бутылка отскочил от стены, никто не пострадал…

Сейчас самое подходящее время, чтобы затронуть несколько моментов.

Во что я верю.

• Работать над процветанием для всех, расширением возможностей всех людей, развитием науки и техники – это мои моральные обязательства.
• Искусственный интеллект станет самым мощным инструментом расширения человеческих возможностей и потенциала, который когда-либо существовал…
• Не все пойдет гладко. Страх и тревога по поводу ИИ оправданы; мы являемся свидетелями самых масштабных изменений в обществе за долгое время, а возможно, и за всю историю. Мы должны обеспечить безопасность, и... нам срочно необходима реакция всего общества, чтобы быть устойчивыми к новым угрозам. Это включает в себя такие вещи, как новая политика, которая поможет преодолеть сложный экономический переходный период…
• Искусственный интеллект должен быть демократизирован; власть не может быть слишком сконцентрирована. Контроль над будущим принадлежит всем людям и их институтам. Мы должны принимать решения о нашем будущем и новых правилах коллективно. Я не считаю правильным, чтобы несколько лабораторий ИИ принимали самые важные решения о будущем...

Смотри также

Далее Альтман пишет о своих личных ошибках, о начинающемся суде с Илоном Маском, называет себя несовершенным человек в центре исключительно сложной ситуации, просит прощения у людей, которым причинил боль, сожалеет, что не извлек уроков раньше.

И наконец, он пишет об отрасли: и объясняет происходящие в ней "шекспировские драмы" тем, что гипотетический "искусственный общий интеллект", то есть ИИ, сравнимым с человеским сознанием, обладает динамикой "кольца власти" (очевидно, ссылка на Толкиена. – Прим.), и заставляет людей совершать безумные поступки. "Я не имею в виду, что ИОИ – это само кольцо, а скорее, тоталитарную философию "быть тем, кто контролирует ИОИ".

"Единственное решение, которое я могу предложить, — это ориентироваться на широкое распространение технологии среди людей, чтобы ни у кого не было "кольца". Два очевидных способа сделать это – расширение прав и возможностей отдельных лиц и обеспечение контроля со стороны демократической системы. Важно, чтобы демократический процесс оставался более влиятельным, чем компании... Мы должны работать в рамках демократического процесса, даже если он будет сложным и медленнее, чем нам хотелось бы. Мы хотим быть голосом и заинтересованной стороной, но не хотим обладать всей властью".

– Я понимаю, Альтман – важнейший герой сегодняшнего дня, визионер и успешный предприниматель. Но мне кажется, его рассуждения про то, как устроен социум и как он реагирует на инновации, совершенно банальны. Искусственный интеллект – не первое и не последнее изобретение на нашей памяти, которое фундаментально меняет жизнь. 30 лет назад мы не подумали, что мы будем находиться в постоянном контакте, не приходить домой и звонить по телефону, не искать будку на улице, а у нас будет постоянный контакт, мы будем обмениваться видеосообщениями, в сотни раз информационный обмен увеличится. Это сильно поменяло жизнь, но в то же время это не то, что мы стали жить в другой реальности. Так же и сейчас происходит... Мне кажется, что цены на бензин, вызванные тем, что президент Трамп решил [начать войну] с Ираном, – гораздо более важная вещь в политике. Это влияет на то, как люди проголосуют, кто будет у власти в стране. Это даже в сущности закон о регулировании искусственного интеллекта определяются не тем, что происходит в сфере с искусственным интеллектом. Избиратель в ноябре, если будут высокие цены на бензин, проголосует за демократов, и тогда будет более жесткое регулирование искусственного интеллекта, а если цены на бензин значительно упадут и инфляция снизится, он проголосует за республиканцев, и будет продолжаться, как сейчас, практически полное отсутствие регулирования искусственного интеллекта.

Смотри также

– Приведу примеры влияния AI индустрии на рядового избирателя. Первое – массовое строительство дата-центров, что приводит к значительному росту цен на электроэнергию, в районах, где эти центры возводятся. Это тот же вопрос экономического выживания для избирателей. Избиратели недовольны, и это предмет предвыборных кампаний. Например, в Вирджиния, где большой кластер дата-центров, в прошлом году на губернаторских выборах кандидат демократов Абигейл Спанбергер, – которая и победила в результате, – обещала сделать что-то, чтобы понизить цены, заставить AI-компании внести их "честную долю", компенсировать рост цен на электроэнергию. Кроме того, есть влияние AI на рынок труда, может быть, пока оно даже это не массово, но, очевидно, люди обеспокоены. Я видел опросы, чуть ли не 70%, – невзирая на идеологию, то есть это одинаково волнует независимых, демократов и республиканцев – обеспокоены тем, что AI отнимает работу. И это может вынудить и республиканцев тоже как-то реагировать.

– Совершенно верно. Потеря работы – важнейший страх, важнейший мотив того, как люди принимают политические решения. Люди, потерявшие работу, будут, грубо говоря, голосовать против тех, кто сейчас находится у власти. Но тут дело не в том, что индустрия искусственного интеллекта может сделать. У них нет возможности сделать так, чтобы люди потеряли меньше работы. Они находятся в такой ситуации мощной конкуренции. Каждый пытается создавать все более хорошие продукты. Это никак невозможно остановить. Это иллюзия, если Сэм Альтман думает, что они там могут сесть в Калифорнии и решить: мы не будем разрушать рабочие места. Он в рамках технологического прогресса маленькая песчинка.

– С точки зрения фондового рынка, искусственный интеллект – видимо, главная история последних лет и главный драйвер роста. И все эти последние годы боялись, что это будет пузырь, который лопнет, но он вроде не лопнул, есть рост доходов у AI компаний. И говорят о том, что рост AI как бы замаскировал другие проблемы американской экономики, что если бы не было роста AI, то американская экономика могла бы оказаться чуть ли не в рецессии, и в этом смысле администрации Трампа повезло. В этом причина того, что Трамп так хорошо относится к AI, или он просто есть какое-то чувство к подобным технологиям? Он всегда хорош с новыми технологиями, и с крипто, и соцсетями, он сам верховный инфлюенсер Соединённых Штатов, как известно. Это впечатляет у человека, которому через 2 месяца будет 80 лет.

– Он явно человек персонально очень открытый к инновациям. Но в Америке, я не думаю, что президент решает, развиваться искусственному интеллекту или нет. Он бы развивался при любом президенте, важнейший прогресс был и при администрации Байдена, которая была гораздо более за регулирование, и про президента Байдена мы не знаем, что он так был открыт к использованию гаджетов и других инноваций.

– Меня даже больше интересует обратный вопрос, об отношении лидеров AI-индустрии к Трампу и республиканцам. С идеологической точки зрения раньше было ощущение, что программеры, математики, компьютерные предприниматели – более демократичные, ходят в кедах, ездят в метро, раньше они скорее тяготели к тому, чтобы поддерживать демократов, жертвовали им на предвыборные кампании. Но последние пару десятилетий крипто и искусственный интеллект создали класс сверхбогатых людей, которые чем-то близки по убеждениям к либертарианцам, то есть они не очень заинтересованы в общественном благе, у них есть какие-то свои теории многообразные.

Смотри также

– Да, это правда. Я только что читал книгу Нейта Сильвера про риск, и он для некоторых глав проинтервьюировал всех этих титанов крипто, титанов искусственного интеллекта, потому что ему хочется проникнуть в их философию. Да, у них есть собственная культура, и она довольно интересная. Я бы сказал, она не совсем лежит в той плоскости, в которой происходит деление на республиканцев и демократов, но действительно, это люди во многих отношениях социально прогрессивные, конечно, там не дискриминируют против, скажем, ЛГБТ, и в то же время у них такой либертарианский, антиправительственный элемент очень силен. И он, видимо, не сводится к тому, что просто платить меньше налогов. Знаете, в Америке у меня были разные друзья-демократы, они начинают зарабатывать много денег и начинают меняться политические взгляды, потому что, действительно, когда республиканский президент, у тебя больше налоговый возврат, причем разница довольно быстро становится большой. Но титаны искусственного интеллекта, нынешние доминаторы Кремниевой долины, – это похоже действительно такая новая новая философия.

– Хочу вернуться к вопросу о демократичности, поговорив о персоналиях: Илоне Маске, Сэме Альтмане и Дарио Амодее. Они все связаны с компанией OpenAI, крупнейшей звездой в AI-индустрии, ChatGPT их продукт.

Маск и Альтман создали в 2015 году OpenAI с миссией разработать безопасный искусственный общий интеллект на благо человечества, а не ради прибыли. Маск был крупным спонсором на раннем этапе. Это было в противовес Google.

Спустя 3 года Маск покинул OpenAI. Там был конфликт интересов, но у них явно был конфликт с Альтманом, потому что тот не соглашался сближаться с Теслой. Потом Альтман возглавил движение OpenAI в сторону коммерциализации. И прямо сейчас происходит суд, где Маск требует вернуть OpenAI назад в неприбыльную компанию на благо человечества.

– Интересный суд, как бы, в котором ставки – это миллиарды долларов, и одновременно это серьёзнейший философский вопросе, как лучше, чтобы развивался искусственный интеллект, – некоммерческими организациями, как задумано было с OpenAI или с или коммерческими.

– Третий человек из OpenAI, имя его, может, не так известно, но он может оказаться самым влиятельным человеком в этой истории, Дарию Амодей. Он присоединился к OpenAI в 2016 году и стал вице-президентом по исследованиям, а потом ушел и создал в 2021 году компанию Anthropic, которую все теперь знают по продукту Claude. Это компания растет сейчас, судя по всему, быстрее, чем какая-либо другая в истории. От миллиарда прибыли в прошлом году до 9 млрд в январе, до 19 млрд в начале марта и до 29 млрд сейчас. И это органический рост. У них более 1000 корпоративных подписчиков, которые платят за услуги свыше миллиона долларов. И за этим ростом есть еще одна история про контракт с Пентагоном, и это драма.

Искусственный интеллект: помощник или угроза человечеству

– А помните, была такая компания Netscape, тоже была быстрорастущей компанией? Она сделала своих создателей миллиардерами, навсегда изменила то, как мы взаимодействуем с интернетом. Она сделала браузеры бесплатными – и исчезла без следа.

– Вы намекаете на то, что, на следующий год мы, может, больше не будем слышать про Anthropic?

– Ее владельцы будут миллиардерами, технологии будут использованы другими компаниями, но мы наблюдаем скачки в реальном времени, и говорить, что именно эта лошадь перевела человечество в другую эру, немножко смешно.

– Я заговорил об Anthropic, потому что это интересно именно в идеологическом смысле, не только в бизнесе. Я могу романтизировать всю эту историю, но если судить по тому, что написано, выглядит как идеологический конфликт. Итак, Anthropic во главе с Амадеем позиционировала себя как более осторожную, ориентированную на безопасность компанию, разработала "Конституционный AI" с принципами "полезности, честности и безвредности", как было сказано. И у Claude есть своя конституция. И продолжение этой истории: в прошлом году Anthropic подписала контракт с военным министерством США, но проведел две "красные линии": запрет на использование Claude для полностью автономного летального оружия и запрет на использование для массового слежения за гражданами США. Пентагон во главе с Питом Хексетом потребовал более широкого доступа "для всех законных целей". Переговоры сорвались, Пентагон расторговал контракт. Anthropic подала в суд, утверждая, что этот шаг был юридически некорректным. Пустоту немедленно заполнила OpenAI, которая заключила с Пентагоном контракт. И тут начинается самое интересное. Пользователи увидели в Anthropic ответственный отказ от опасных военных применений, это в краткосрочной перспективе радикально повысило популярность Claude среди потребителей, многие перешли на него из ChatGPT. Сейчас же, как утверждается, администрация пытается вернуть Anthropic, чтобы воспользоваться новой моделью Mythos, которую Anthropic отказался выпустить для открытого применения публикой, потому что модель представляет якобы огромную угрозу, если её использовать для кибервзломов. И получается, что Anthropic, с одной стороны проявила высокую гражданскую позицию, а с другой стороны, а, это лидер бизнеса. Демократичность неожиданно в этой истории, в этот конкретный момент стала самой выгодной бизнес-моделью.

– Мне кажется, что в этом нет ничего удивительного. То есть я могу себе представить, что просто холодный расчет, требующий максимизации акционерной стоимости, требует принятия серьезных этических правил, ограничений. Возможно, что когда-то нужно отказываться от каких-то контрактов. И я думаю, что многим корпорациям приходится, может быть, не так шумно. Но мне кажется, что так бывает, что корпорация говорит, что нет, мы этим не можем заниматься, хотя это приносит какую-то краткосрочную прибыль, потому что это будет ущерб репутации, ущерб репутации на других рынках, ущерб репутации даже в общении с тем же клиентом в долгосрочной перспективе. Мы видели это на примере огромного количества продуктов, что лучшей стратегией является честное, ответственная развитие продукта, а не срезание каких-то углов. Мы, может, на российском примере слишком много слышим про то, как делаются деньги на том, что кто-то обманул, украл, вывел, и слишком мало говорим о том, что многие компании, их миллиарды прибыли - это следствие того, что они последовательно и долго строили репутацию, что они и ответственные, и надежные, и независимые от правительства, даже в условиях, когда это становилось все труднее.