Рынок искусственного интеллекта лихорадит. Вслед за скандалом в NVIDIA начал сдуваться весь мировой ИИ-пузырь, накачанный 4 триллионами долларов. В США демократы, победившие на выборах в Конгресс, планируют сокращать строительство новых дата-центров, а компания Anthropic сознательно тормозит выпуск новых языковых моделей.
Является ли искусственный интеллект угрозой для демократии и человека, и грозит ли миру технофашизм новых цифровых олигархов? Обсуждаем с главным редактором "Новой газеты. Европа" Кириллом Мартыновым и основателем проекта "True Story" Львом Гершензоном.
Сергей Медведев: Не возникает ли в связи с искусственным интеллектом призрак нового луддизма?
Алгоритмы будут совершенствоваться и играть всё большую роль в нашей жизни
Кирилл Мартынов: Сначала надо немного обелить репутацию луддитов. Это были квалифицированные работники, которые могли обеспечить семье нормальную жизнь. Именно потому, что их труд стоил дорого, его автоматизация оказалась рентабельной. Сейчас это повторяется: труд программистов дорог, поэтому их профессия первой испытывает такое давление. Луддиты потеряли привычный образ жизни и не смогли конкурировать с машинами. Нам говорят, что в долгосрочной перспективе от промышленной революции выиграли все. Но между проигрышем этих работников и общим ростом благосостояния прошло от пятидесяти до семидесяти лет.
Кирилл Мартынов
Предложение сейчас потерять работу и возможность обеспечивать семью, чтобы через полвека выжившим стало лучше, выглядит не слишком привлекательно. Алгоритмы будут совершенствоваться и играть всё большую роль в нашей жизни. Главный вопрос - разрушат ли они ценности и институты, сложившиеся в XX веке. Прежде всего, права человека, демократию со всеобщим избирательным правом и социальное страхование: право на отпуск, пенсию. Удастся ли этим институтам поставить технологии себе на службу? Или на руинах социального государства нам предложат корпоративные империи?
Смотри также
США ужесточили ограничения на экспорт передовых чипов для ИИСергей Медведев: "Технофашизм" - это просто броское обвинение или у термина есть реальное содержание?
Задача - рост капитала и прибыли, а людей, которые мешают, надо убрать с пути
Кирилл Мартынов: Термин дискуссионный, но он имеет право на существование. Его сторонников - и теоретиков, и практиков - объединяет примерно такая конструкция: человек - не самое разумное существо, возможно, уже устаревшее, и доверять ему власть не нужно. Демократия устарела, и если она мешает технологическому прогрессу, от неё следует отказаться. В самом примитивном варианте задача - рост капитала и прибыли, а людей, которые мешают, надо убрать с пути. По сути, это капитализм без либеральной демократии.
Частная собственность и рынки остаются, а избирательное право и права человека становятся церемониальными. У разных авторов разные программы. У Кёртиса Ярвина это цепочка государств-корпораций: политические права исчезают, но если тебе не нравится одно государство, переходишь к другому и сотрудничаешь с ним как клиент. Ник Ланд описывает слияние капитала и технологий как постчеловеческое будущее, ради которого человечество предлагается отбросить. Это разные подходы, которые нельзя полностью сводить друг к другу.
Сергей Медведев: Получается, что у Европы с её ценностью прав человека и регламентами нет шансов в гонке с США и Китаем?
Прежде чем использовать технологию определённым образом, нужно подумать о последствиях
Кирилл Мартынов: Если мериться количеством дата-центров и новизной алгоритмов, то шансов нет. Но я не уверен, что эта слабость означает фатальное поражение. На пути адаптации к технологиям можно совершить много ошибок. У Европы есть шанс найти баланс между технологическим отставанием и вопросом о том, для чего вообще существует прогресс, как мы хотим им распорядиться. Мне интересен пример амишей, который приводит Кевин Келли. Если вынести за скобки консервативность их семейной и гендерной политики, их отношение к технике вполне разумно.
Сообщество годами обсуждает, как конкретная технология повлияет на его способность существовать дальше. Это не безусловный отказ от техники, а попытка защитить то, что важно. Мы ведь не используем любую доступную технологию бездумно: к счастью, пока не бросаемся ядерными бомбами. А в цифровой сфере сначала передали машинам управление логистикой и инфраструктурой, а затем построили машины, способные всё это ломать быстрее, чем мы успеваем защищать. Прежде чем использовать технологию определённым образом, нужно подумать о последствиях.
Смотри также
Падение биржевых индексов: IT-компании потеряли миллиардыСергей Медведев: Можно ли сравнить нынешний бум ИИ с пузырём доткомов?
Искусственным интеллектом уже пользуются сотни миллионов людей
Лев Гершензон: Признаки пузыря есть, но существуют и существенные отличия. Искусственным интеллектом уже пользуются сотни миллионов людей. Компании не только привлекают огромные инвестиции, но и зарабатывают серьёзные деньги, хотя пока в основном тратят гораздо больше. Главный вопрос - как окупятся вложения в сотни миллиардов долларов.
Лев Гершензон
Пока видно не очень много примеров, когда ИИ позволял бы не просто оптимизировать расходы, а настолько увеличить доходы, чтобы покрыть эти инвестиции. В разработке программного обеспечения ИИ действительно всё поменял, вопрос о росте производительности там не стоит. Но что произойдёт в других областях реальной экономики, как быстро там будут внедрять ИИ и насколько измеримым окажется эффект - эти вопросы в значительной степени открыты.
Смотри также
Трамп и главы компаний подписали соглашение о контроле над ИИСергей Медведев: Можно ли институционально развернуть искусственный интеллект к человеку?
Можем ли мы использовать технологии так, чтобы они служили тому, что мы считаем правильным?
Кирилл Мартынов: Чат-боты и более развитые агенты уже опосредуют наше мышление и принятие решений. Это будет усиливаться. Поэтому мне хотелось бы говорить не только об этике, но и о политических последствиях: можем ли мы использовать технологии так, чтобы они служили тому, что мы считаем правильным? Один конкретный вопрос - налоговая система.
Во многих странах налоги платят работники. Получается, заменить их машинами выгодно ещё и потому, что так устроены налоги. Как адаптировать эту систему к ситуации, когда заметная часть производительного труда сосредоточена у машин? Как изменить другие институты, чтобы они продолжали служить людям, а не разрушились из-за технологического скачка? Возможно, у систем, которые сейчас отстают, времени на адаптацию окажется больше.