Цукерберг недавно начал использовать AI, чтобы тот помогал ему спать.
Точнее, это персональный AI Agent, находящийся на связи 24 часа в сутки: он отслеживает его сон, во время тренировок следит за его движениями и даёт советы; когда у Цукерберга появляется новая идея, Agent помогает быстро создавать прототип.
В выходные у этого Agenta есть ещё одна задача. 8-летняя дочь Цукерберга любит выпечку, и AI заранее разрабатывает рецепты для всей семьи, оформляет заказы на необходимые ингредиенты, а когда отец и дочь вместе приходят на кухню, помогает советами на каждом этапе приготовления.
Фото | Qualcomm
Эти бытовые, на первый взгляд, мелочи были описаны Цукербергом в длинной статье, опубликованной 10 августа — «The Future is for Everyone: The Path to a Positive AI Future» («Будущее — для всех: путь к позитивной эре AI»).
В этой статье не было анонсировано ни одной новой модели, ни одного нового benchmark. Цукерберг уделяет больше внимания вопросам, на которые пока нет однозначных ответов: как AI изменит работу, чей голос будет слушать супер-интеллект, кому должна принадлежать мощная технология и как избежать того, чтобы она не оказалась только в руках меньшинства.
Самый важный вопрос нашего времени — кто сможет получить доступ к супер-интеллекту и как мы будем использовать его. Сосредоточится ли он в руках избранных организаций под жёстким контролем или же станет инструментом, расширяющим возможности каждого человека?
Цукерберг выбирает второй вариант.
В его представлении будущего, AI редко нуждается в том, чтобы вы осознанно открывали окно чата. Он знает о вашей работе, здоровье, семье, финансах и увлечениях, продолжает работать, пока вы спите; он может общаться через компьютер и смартфон, а также встроиться в очки и видеть то, что видите вы.
Он может стать учителем, тренером и ассистентом, может помочь запустить стартап, провести исследование или создать то, что раньше было невозможно. Meta называет эту масштабную концепцию: «Personal Superintelligence» — персональный супер-интеллект.
Один человек и целая команда AI за его спиной
В статье Цукерберг фантазирует о множестве профессий, которые сейчас кажутся странными.
Кто-то может создать «студию одного человека», работающую над игрушками, мебелью или одеждой — один человек генерирует идеи, а AI за ним выполняет задачи, которые раньше под силу только целой команде дизайнеров, инженеров, маркетологов и операторов; кто-то станет «создателем миров», специалистом по созданию игр, историй и виртуального опыта; другие обзаведутся своим «персональным биологом», который будет с помощью AI изучать тело, участвовать в исследованиях и искать индивидуальные лечебные решения.
Фото | ChatGPT Health
За новыми профессиями стоит ключевое убеждение Цукерберга об AI и труде. Сегодня автоматизацию часто воспринимают как вычитание: работа, которую раньше делали 10 человек, теперь доступна пятерым при поддержке AI.
Но Цукербергу интересна иная перспектива. Если раньше дело требовало десяти человек, а теперь один может сделать то же с помощью AI, не начнут ли предприниматься проекты, для которых просто не было команды или средств?
Фото | Tepperspectives
Компании также могут стать меньше. Небольшое число людей с собственными AI Agent смогут управлять бизнесом, на который раньше требовались десятки, а то и сотни сотрудников; а продукты и сервисы, которые были слишком дорогими для запуска, теперь могут появиться на рынке.
Это — характерный оптимизм «The Future is for Everyone». Цукерберг признает, что AI приведёт к исчезновению профессий, но верит, что новые возможности и рабочие места появятся еще быстрее.
Далее он переносит такой же оптимизм на куда более сложный вопрос: если супер-интеллект настолько мощен, что может изменить не только бизнес и труд, но даже войны — будет ли безопасно дать такую силу каждому?
Если супер-интеллект опасен — пусть он будет у каждого
Цукерберг мало верит в то, что когда-нибудь удастся создать «добрый AI», который будет делать правильный выбор за всех.
Человечество не едино по ценностям. По важнейшим вопросам разные ценности требуют разных компромиссов. Не существует технического решения, которое устроит интересы и ценности абсолютно всех.
Фото | BBC
Его решение — взять принципы демократии и рынка: не создавать единого центра, а позволить каждому человеку, бизнесу и организации иметь своего AI.
Пример наглядный. Если только у одного в мире будет «супер-интеллектуальный адвокат», у этого человека будет огромное преимущество: даже если дело довольно слабое, AI-адвокат, который может моментально анализировать законы, прецеденты, доказательства и не устаёт — практически непобедим.
Что делать? Ограничить супер-интеллектуальных адвокатов? Цукерберг предлагает другое — дать такого же адвоката другой стороне.
Если каждому будет доступна подобная технология, разрыв, который сегодня образуется из-за денег, ресурсов и уровня адвокатов, может, напротив, сократиться.
Тоже касается кибербезопасности и бизнес-конкуренции: если у хакера есть мощный AI, защищающая сторона также должна иметь адекватную защиту. Цукерберг называет это «balance of power» — баланс сил.
Это влияет и на то, как Meta понимает «alignment». Сегодня разговоры об alignment AI чаще всего сводятся к тому, каким правилам должен следовать AI и какие просьбы он должен отклонять; Цукерберг хочет, чтобы персональный Agent шёл дальше — максимально отражал цели и ценности пользователя и меньше определял за него, что правильно.
Такой Agent должен помнить не только ваши расписание, интересы и работу, но и осознавать, чего вы сами хотите — и быть способен действовать от вашего имени. Всегда онлайн, гораздо умнее вас и хорошо вас знающий второй «мозг» — это действительно заманчиво.
Фото | Siri AI | Apple
Чем больше знает Agent, тем сложнее вопрос конфиденциальности. Здесь Цукерберг делает довольно серьёзное обещание:
Мы считаем, что у пользователей должен быть полностью приватный режим их персонального AI, в котором ни Meta, ни любой другой провайдер не сможет просматривать или получать доступ к вашим данным.
Персональный супер-интеллект, описанный Цукербергом, действительно выглядит заманчиво: он вас понимает, а ваша личная жизнь и решения остаются при вас. Само по себе такое предложение выглядит безупречно.
Когда «для всех» звучит от Цукерберга
Если скрыть имя автора и читать только 6500 слов «The Future is for Everyone», это получилась бы очень сильная статья.
В ней нет пустых обещаний «AI сделает мир лучше». Обсуждается трансформация труда, почему невозможно сделать супер-интеллект от лица всех и почему сила не должна быть сосредоточена в избранных руках, а также — AI должен служить компании или пользователю?
Многие выводы действительно убедительны: главная ценность супер-интеллекта — не автоматизация, а изобретения; раз уж у людей разные ценности, вместо единого «доброго AI» логичнее дать каждому свой AI и пусть они конкурируют.
Фото | TechCrunch
Если бы автор был другой человек, это была бы типичная, логически стройная декларация техно-оптимиста.
Но автор — Марк Цукерберг.
За последние 20 лет, делая ставку на каждую новую технологию, он всегда придавал ей «большой смысл». Facebook — это «связывать людей», метавселенная — это «присутствие»; теперь с AI каждому человеку вручается «интеллект».
Фото | Investors Alley
На этот раз Цукерберг позиционирует Meta на стороне «личности». В его нарративе, если будущее AI определят корпорации и институты — сила останется у них; задача Meta — дать супер-интеллект обычным людям.
Он даже связывает это с миссией Meta с момента основания:
С самого основания миссия Meta — передать власть людям. Если наши идеалы и принципы станут ориентиром для будущего, баланс сил сместится к личности и будущее будет лучше для всех.
Но, судя по прошлому Facebook, вряд ли стоит воспринимать эту фразу буквально.
Скандал Cambridge Analytica 2018 года — самый известный случай утечки личных данных Facebook. Через сторонние приложения платформы Cambridge Analytica собрала данные десятков миллионов пользователей и их друзей, многие из которых даже не давали прямого согласия. Эти данные использовались для политического таргетинга.
Фото | The Guardian
В том же году на Facebook в Мьянме разразилась более серьёзная проблема. По итогам независимой правозащитной оценки, заказанной самой компанией, Facebook признал, что не смог помешать платформе использоваться для разжигания розни и насилия. Позже Amnesty International обвинила рекомендательные алгоритмы Facebook в эскалации ненависти к рохинджа и повышении риска насилия.
Фото | CNN
Если вернуться в нынешние времена: в тот же день, когда вышла статья «The Future is for Everyone», апелляционный суд США девятого округа отклонил апелляции Meta, TikTok, Google и Snap, разрешив продолжить тысячи исков, связанных с зависимостью от соцсетей. В каждом требовалось выяснить: не способствует ли дизайн платформ вовлечению молодых пользователей в зависимость?
Фото | Апелляционный суд США девятого округа
Несколько дней назад суд Нью-Мексико постановил взыскать с Meta 567 миллионов долларов на поддержку психического здоровья подростков и обязал Facebook и Instagram изменить некоторые механизмы, касающиеся несовершеннолетних. Meta отклоняет обвинения и обещает оспаривать решение суда.
От Cambridge Analytica, через Мьянму и до сегодняшней подростковой повестки, Facebook раз за разом сталкивается с одной и той же дилеммой: Когда платформа ориентируется на рост, активность и прибыль, результаты не всегда отвечают общественным интересам.
Поэтому «The Future is for Everyone» — не просто декларация о будущем AI. Цукерберг представляет выбранную Meta продуктовую стратегию как вопрос личной свободы и распределения власти.
Фото | NBC
Персональный Agent — очень конкретный продукт: модель обучается Meta, вычисления делает Meta, а пользователю сервис поступает через соцсети и умные очки. В декларации же это уже часть нового нарратива — дать каждому свой супер-интеллект становится инструментом борьбы с корпорациями и передачи власти людям.
И это — главное, что вызывает настороженность в статье. Следующий бизнес Meta интеллектуально обёрнут в ценности свободы, расширения возможностей и социального прогресса.
Теперь он хочет дать нечто ещё более личное стольким же людям. Этот интеллект будет знать, что вам интересно, поможет в работе, обучении, покупках, даже сможет действовать за вас. Обучит его Meta, работает он на серверах Meta, возможно, всегда будет при вас через очки.
Но стоит задуматься над вопросом —
Когда персональный супер-интеллект войдёт в привычку, кому мы будем доверять — своему AI или платформе, которая его предоставляет?
🔗 Оригинал «The Future is for Everyone»:meta.com/thefutureisforeveryone
Автор | Чжэн Тинсюй
Редактор | Сяо Цинпэн
