Несколько дней назад я напряженно работал на своем ноутбуке, как вдруг экран потемнел, и на несколько секунд текст исчез. К тому времени как я понял, что произошло, - на мгновение я подумал, что у меня внезапно села батарея, хотя раньше такого не случалось, - все вернулось в норму, окна были на месте, клавиатура работала. Я вообще не заметил никаких изменений, кроме появления новой кнопки в панели приложений. Кнопка выглядит как скрученная синевато-зеленая лента с инициалами PRE, сокращенно от «предварительный просмотр». При наведении курсора мыши приложение отображается и раскрывает свою сущность: Copilot.
Copilot - это глазурь на торте Microsoft, последнее крупное достижение разработчиков американского IT-гиганта. Проще говоря, это чатбокс с искусственным интеллектом, помощник на основе больших языковых моделей (Large Language Models, LLMs), который призван сделать различные продукты Microsoft 365 намного проще в использовании. Например, вы можете попросить его провести SWOT-анализ на основе планов, представленных на видеовстрече. Или широкий финансовый обзор на основе отчетности за последние несколько лет. Или превратить служебную записку в PowerPoint или прослушать видеоконференцию Teams, а затем подвести итоги обсуждения и составить список задач для участников. Приложение также является расширением для браузера Edge, поэтому его можно использовать для поиска в Интернете.
Copilot - это попытка компании идти в ногу с новейшим направлением компьютерных исследований - искусственным интеллектом (ИИ) - в гонке, в которой участвуют и другие крупные игроки, например, Google, недавно запустивший собственный продукт для ИИ под названием Gemini. По сути, нынешний Copilot объединяет/ребрендирует различные варианты чатбоксов, ранее запущенные Microsfot (см. Bing Chat), расширяет их и интегрирует в Windows 11.
Microsoft Chatbox - это детище, появившееся в результате сотрудничества Microsoft и растущей звезды Кремниевой долины OpenAI, в которой Microsoft принадлежит 49% акций. Концепция Copilot принадлежит OpenAI, но именно Microsoft придает программе известность и влияние, учитывая, что в мире насчитывается не менее 1,5 миллиарда пользователей Windows (правда, не все из них используют Windows 11) и более миллиарда пользователей Microsoft Office. Для сравнения, ChatGPT, приложение для искусственного интеллекта, разработанное в прошлом году независимой компанией OpenAI, насчитывает всего четырнадцать миллионов ежедневных пользователей.
Но запуск новой версии Copilot совпал с началом активной полемики в OpenAI, которая захватила Microsoft, ее партнеров и всю индустрию.
Огненное увольнение
В то время как обновление программного обеспечения Microsoft закрывалось и открывалось спустя несколько секунд на экранах компьютеров на разных континентах, OpenAI переживала свой самый большой кризис с момента основания в 2015 году. Структура компании сейчас довольно сложна: изначальная некоммерческая структура недавно была преобразована в коммерческую. Но если вкратце, то коллективное руководство компании решило, казалось бы, в одночасье, за два дня до Дня благодарения, уволить своего главного босса Сэма Альтмана. Даже в Microsoft не знали об этом, поскольку новость дошла до них, когда факт уже был свершившимся. Пока единственным официальным объяснением был твит, в котором говорилось, что «мистер Альтман не был последовательно честен» со своими коллегами по совету директоров, которые потеряли к нему доверие.
Затем появились подробности. Не все члены совета проголосовали за увольнение. Если бы мистер Альтман не ушел, то ушли бы другие члены совета, на которых он был нацелен. Кроме того, по слухам, Сэм Альтман умел быть искусным манипулятором - но, в конце концов, рассуждали другие, разве это не качество для директора? Microsoft, в свою очередь, начала волноваться, ведь на кону стоял не только Copilot, но и другие запланированные продукты. Между генеральным директором Microsoft и Сэмом Альтманом существовали доверительные отношения, скрепленные миллиардами долларов. Учитывая все это, нетрудно догадаться, на чьей стороне был IT-гигант. Несколько сотен сотрудников OpenAI также встали на его сторону, подписав открытое письмо в поддержку смещенного босса. В итоге через несколько дней Сэм Альтман был восстановлен в должности. Состав совета директоров изменился. Воды успокоились - но под их видимым спокойствием нервно кружат акулы вопросов. «Большой белой» среди них является - не больше и не меньше - вопрос о влиянии искусственного интеллекта на человеческую цивилизацию и ее шансах выжить в новый век суперкомпьютеров.
Компьютер как доминирующий вид
Восемь лет назад была основана OpenAI с четкой целью защитить человечество от неконтролируемого развития искусственного интеллекта, осторожно изучать эту область и выпускать на рынок только проверенные продукты. Эта цель по-прежнему актуальна, но с учетом денег и власти, которые сегодня поставлены на карту, возникли сомнения в безупречности первоначальных обязательств. Увольнение Сэма Альтмана - и его возвращение - в этом сценарии будет связано с конфликтом между «энтузиастами» искусственного интеллекта и «консерваторами» индустрии, которые ставят на первое место безопасность его использования. Последние опасаются, что после открытия так называемого Общего Искусственного Интеллекта - то есть когда компьютеры научатся рассуждать и обретут сознание - он может обернуться против человечества и попытаться уничтожить его, поскольку увидит в нем либо угрозу, либо препятствие для достижения своих целей (в том числе и человеческих), либо воспримет его как возможное сырье, которое можно использовать для производства. Искусственный интеллект, отмечают «консерваторы», может самосовершенствоваться, и при этом логарифмическими темпами. Например, сколько времени потребуется такому интеллекту, чтобы начать торговать на фондовой бирже, зарабатывать значительные суммы для финансирования самостоятельного производства энергии - чтобы больше не зависеть от человека? Сколько времени ему потребуется, чтобы, имея доступ к обширной литературе по психологии, научиться манипулировать своими пользователями, даже притворяться безобидным, пока он готовит великий переворот? Насколько трудно ему будет «сбежать» в онлайн-зону из изолированного пространства, когда он может убедить наивного пользователя помочь ему, не говоря уже о последних технологических достижениях, позволяющих, например, заразить телефон вирусом, манипулируя электромагнитными волнами, излучаемыми компьютерным вентилятором? В этом сценарии Сэм Альтман был бы «энтузиастом», потерявшим чувство реальности и готовым, осознанно или нет, принести безопасность в жертву на алтарь денег и власти.
Другие говорят, что увольнение Сэма Альтмана не имеет ничего общего с какими-либо идеологическими спорами, что, в конце концов, в дело были вовлечены человеческие чувства и поступки. «Подозрение», «впечатление», «манипулятивные» действия и даже жажда власти в итоге больше подходят для объяснения кризиса в совете OpenAI, чем внезапно разгоревшееся столкновение принципов. Далее утверждается, что существующие программы и алгоритмы искусственного интеллекта, от Deep Blue от IBM до ChatGPT и Pilot, далеко не заменяют человека в плане общей структуры своих действий, даже если они способны победить великих шахматных мастеров или составить нашу повестку дня, они есть и останутся всего лишь инструментами.
От приглашений к обязательствам
Спор между Microsoft и OpenAI вызвал волнения во всей индустрии. OpenAI - бесспорный лидер в этой области; четыре из пяти разработчиков программного обеспечения говорят, что используют модели OpenAI чаще, чем модели конкурентов. Но во время экономического спада несколько десятков клиентов OpenAI обратились к конкурентам OpenAI - компании Anthropic или представителям Cohere, еще одного связанного с Google стартапа в этой отрасли. Подразделение облачных вычислений Amazon, также поддерживающее модель, разработанную Anthropic, в разгар кризиса наладило сотрудничество с потенциальными отставниками OpenAI, которые не захотели бы отступать перед Microsoft.
Но, возможно, еще более глубокое влияние спора, пусть и менее зрелищное на данный момент, лежит на политическом уровне. Власти уже некоторое время с тревогой наблюдают за развитием искусственного интеллекта. Приложения, подобные тому, которое позволяет пользователям создать собственный чатбот - инициатива, поддержанная Сэмом Альтманом, - способны еще больше насторожить их. В июле администрация Байдена призвала крупных игроков в этой области - в том числе Google, Meta, Microsoft, OpenAI - договориться о том, чтобы эксперты тестировали их продукты перед выходом на рынок. Четыре месяца спустя британское правительство выступило с аналогичной инициативой, включив в число предлагаемых требований то, что продукт не должен угрожать национальной безопасности. Совпадение или нет, но вскоре после кризиса OpenAI американцы вышли за рамки этапа приглашения. Согласно указу, подписанному президентом Джо Байденом, все крупные компании отрасли - классифицированные в зависимости от мощности процессора, необходимого для работы программного обеспечения ИИ, - должны уведомить правительство и опубликовать результаты проведенных ими тестов на безопасность. Если промышленность не сможет договориться о безопасности, то в дело вступит политический фактор, заключает The Economist. Я нахожу значимым тот факт, что такой либеральный журнал, как The Economist, отрицательно относится к участию государства в этой разработке.
Еще один недавно появившийся участник - Европейский Союз, который объявил о достижении соглашения по тексту специального закона, регулирующего использование искусственного интеллекта. Согласно этому закону, под искусственным интеллектом понимается компьютерное программное обеспечение, которое в зависимости от определенных параметров, заданных человеком, "генерирует контент, прогнозы, рекомендации или решения, влияющие на среду, в которой оно функционирует". Особое внимание в постановлении уделяется безопасности использования искусственного интеллекта европейскими гражданами и прозрачности его использования. Законопроекты, аналогичные европейскому, которые должны поступить в парламент ЕС в начале следующего года, находятся на разных стадиях разработки в США, Великобритании и Китае.
Несмотря на то, что искусственный интеллект кажется передовой технологией, которой еще только предстоит вступить в силу, он уже внедряется в некоторые сферы. До тех пор, пока компьютеры полагались на простые аналитические способности, люди выигрывали у машин в игре го. Но когда компьютеры смогли интегрировать собственный опыт в свой подход к играм, ситуация изменилась, и теперь у них нет конкурентов среди людей. С шахматами была похожая история: человеческие игроки были побеждены еще на этапе сырой вычислительной мощности, не говоря уже о нынешней ситуации, когда программное обеспечение самосовершенствуется. Однако дело в том, что люди продолжают играть в шахматы и го, а компьютерные турниры становятся скорее лабораторной специальностью для увлеченных ученых. Конечно, люди подглядывают за тем, как играют компьютеры при определенных обстоятельствах, но это разные миры: один - эмоций, таланта и расчетов, которые тоже могут быть ошибочными, другой - бесконечно малого совершенства кремниевых вариантов. Эти два мира не смешиваются, и пока, по крайней мере, они оба в порядке.
