ИИ против демократии. Грозит ли нам технофашизм?

An AI robot with a humanistic face
An AI robot with a humanistic face

Эксперты - о влиянии ИИ на развитие человечества

Рынок искусственного интеллекта лихорадит. Вслед за скандалом в NVIDIA начал сдуваться весь мировой ИИ-пузырь, накачанный 4 триллионами долларов. В США демократы, победившие на выборах в Конгресс, планируют сокращать строительство новых дата-центров, а компания Anthropic сознательно тормозит выпуск новых языковых моделей.

Является ли искусственный интеллект угрозой для демократии и человека, и грозит ли миру технофашизм новых цифровых олигархов? Обсуждаем с главным редактором "Новой газеты. Европа" Кириллом Мартыновым и основателем проекта "True Story" Львом Гершензоном.

Сергей Медведев: Не возникает ли в связи с искусственным интеллектом призрак нового луддизма?

Алгоритмы будут совершенствоваться и играть всё большую роль в нашей жизни

Кирилл Мартынов: Сначала надо немного обелить репутацию луддитов. Это были квалифицированные работники, которые могли обеспечить семье нормальную жизнь. Именно потому, что их труд стоил дорого, его автоматизация оказалась рентабельной. Сейчас это повторяется: труд программистов дорог, поэтому их профессия первой испытывает такое давление. Луддиты потеряли привычный образ жизни и не смогли конкурировать с машинами. Нам говорят, что в долгосрочной перспективе от промышленной революции выиграли все. Но между проигрышем этих работников и общим ростом благосостояния прошло от пятидесяти до семидесяти лет.

Кирилл Мартынов
Кирилл Мартынов

Предложение сейчас потерять работу и возможность обеспечивать семью, чтобы через полвека выжившим стало лучше, выглядит не слишком привлекательно. Алгоритмы будут совершенствоваться и играть всё большую роль в нашей жизни. Главный вопрос - разрушат ли они ценности и институты, сложившиеся в XX веке. Прежде всего, права человека, демократию со всеобщим избирательным правом и социальное страхование: право на отпуск, пенсию. Удастся ли этим институтам поставить технологии себе на службу? Или на руинах социального государства нам предложат корпоративные империи?

Сергей Медведев: "Технофашизм" - это просто броское обвинение или у термина есть реальное содержание?

Задача - рост капитала и прибыли, а людей, которые мешают, надо убрать с пути

Кирилл Мартынов: Термин дискуссионный, но он имеет право на существование. Его сторонников - и теоретиков, и практиков - объединяет примерно такая конструкция: человек - не самое разумное существо, возможно, уже устаревшее, и доверять ему власть не нужно. Демократия устарела, и если она мешает технологическому прогрессу, от неё следует отказаться. В самом примитивном варианте задача - рост капитала и прибыли, а людей, которые мешают, надо убрать с пути. По сути, это капитализм без либеральной демократии.

Частная собственность и рынки остаются, а избирательное право и права человека становятся церемониальными. У разных авторов разные программы. У Кёртиса Ярвина это цепочка государств-корпораций: политические права исчезают, но если тебе не нравится одно государство, переходишь к другому и сотрудничаешь с ним как клиент. Ник Ланд описывает слияние капитала и технологий как постчеловеческое будущее, ради которого человечество предлагается отбросить. Это разные подходы, которые нельзя полностью сводить друг к другу.

Сергей Медведев: Получается, что у Европы с её ценностью прав человека и регламентами нет шансов в гонке с США и Китаем?

Прежде чем использовать технологию определённым образом, нужно подумать о последствиях

Кирилл Мартынов: Если мериться количеством дата-центров и новизной алгоритмов, то шансов нет. Но я не уверен, что эта слабость означает фатальное поражение. На пути адаптации к технологиям можно совершить много ошибок. У Европы есть шанс найти баланс между технологическим отставанием и вопросом о том, для чего вообще существует прогресс, как мы хотим им распорядиться. Мне интересен пример амишей, который приводит Кевин Келли. Если вынести за скобки консервативность их семейной и гендерной политики, их отношение к технике вполне разумно.

Сообщество годами обсуждает, как конкретная технология повлияет на его способность существовать дальше. Это не безусловный отказ от техники, а попытка защитить то, что важно. Мы ведь не используем любую доступную технологию бездумно: к счастью, пока не бросаемся ядерными бомбами. А в цифровой сфере сначала передали машинам управление логистикой и инфраструктурой, а затем построили машины, способные всё это ломать быстрее, чем мы успеваем защищать. Прежде чем использовать технологию определённым образом, нужно подумать о последствиях.

Сергей Медведев: Можно ли сравнить нынешний бум ИИ с пузырём доткомов?

Искусственным интеллектом уже пользуются сотни миллионов людей

Лев Гершензон: Признаки пузыря есть, но существуют и существенные отличия. Искусственным интеллектом уже пользуются сотни миллионов людей. Компании не только привлекают огромные инвестиции, но и зарабатывают серьёзные деньги, хотя пока в основном тратят гораздо больше. Главный вопрос - как окупятся вложения в сотни миллиардов долларов.

Лев Гершензон
Лев Гершензон

Пока видно не очень много примеров, когда ИИ позволял бы не просто оптимизировать расходы, а настолько увеличить доходы, чтобы покрыть эти инвестиции. В разработке программного обеспечения ИИ действительно всё поменял, вопрос о росте производительности там не стоит. Но что произойдёт в других областях реальной экономики, как быстро там будут внедрять ИИ и насколько измеримым окажется эффект - эти вопросы в значительной степени открыты.

Сергей Медведев: Можно ли институционально развернуть искусственный интеллект к человеку?

Можем ли мы использовать технологии так, чтобы они служили тому, что мы считаем правильным?

Кирилл Мартынов: Чат-боты и более развитые агенты уже опосредуют наше мышление и принятие решений. Это будет усиливаться. Поэтому мне хотелось бы говорить не только об этике, но и о политических последствиях: можем ли мы использовать технологии так, чтобы они служили тому, что мы считаем правильным? Один конкретный вопрос - налоговая система.

Во многих странах налоги платят работники. Получается, заменить их машинами выгодно ещё и потому, что так устроены налоги. Как адаптировать эту систему к ситуации, когда заметная часть производительного труда сосредоточена у машин? Как изменить другие институты, чтобы они продолжали служить людям, а не разрушились из-за технологического скачка? Возможно, у систем, которые сейчас отстают, времени на адаптацию окажется больше.



​
XS
SM
MD
LG