Apple внесла ИИ-агентов в список рисков своего годового отчёта

Apple подала в SEC Form 10-K за финансовый год, завершившийся 26 сентября 2026 года. По данным CNBC, рассказавшего об этом в статье Кифа Лесвинга, документ был подан во вторник, 3 ноября, и содержит новые факторы риска, посвящённые агентам искусственного интеллекта. В процитированном изданием фрагменте Apple пишет, что такие агенты могут действовать автономно: взаимодействовать с внутренними или внешними системами, в некоторых случаях даже без разрешения, запускать или изменять код, отправлять сообщения и совершать транзакции. Кроме того, они могут вести себя «непреднамеренно или непредсказуемо», совершая действия, которые никто не направлял, не поручал и не санкционировал. И в том же фрагменте, приведённом CNBC, Apple признаёт, что её возможности отслеживать и контролировать ИИ-агентов сторонних разработчиков могут быть ограничены.

Стоит напомнить, что такое 10-K: годовой отчёт, который обязана подавать каждая компания, котирующаяся на бирже в США. Факторы риска нужны, чтобы защитить компанию перед инвесторами, перечислив всё, что может пойти не так, поэтому читать их как прогнозы не следует. Интересно другое: крупнейший производитель потребительских устройств письменно фиксирует в документе, имеющем юридическую силу, что ИИ-агенты образуют отдельную категорию риска. В том же разделе, по данным CNBC, Apple упоминает также этические опасения и негативное восприятие потребителями, связанные с автоматизацией, искусственным интеллектом и «суперинтеллектом».

Остальная часть отчёта рассказывает о компании, которая вкладывается в ИИ. В описательной части Apple заявляет, что сделала «значительные инвестиции» в функции и инфраструктуру искусственного интеллекта, и указывает, что этот бизнес зависит от доступа к достаточным вычислительным мощностям и объёмам хранения. В разборе результатов компания объясняет рост расходов на исследования и разработки в 2026 году по сравнению с 2025-м прежде всего более высокими затратами на инфраструктуру, включая инвестиции в ИИ, и расходами на персонал. Siri AI упоминается среди продуктовых анонсов третьего финансового квартала 2026 года и среди сервисов, поставляемых вместе с устройствами. CNBC также сообщает, что в октябре Apple изменила полный доступ к диску на Mac, чтобы снизить риски, связанные с ИИ-агентами, и что собственного продукта агентного ИИ у компании пока нет. На телеконференции по итогам квартала 2 ноября, опять же по данным CNBC, генеральный директор Джон Тернус назвал агентные возможности многообещающими инструментами для пользователей, уточнив, что Apple хочет, чтобы люди понимали, к чему они дают доступ, и чтобы всё происходило с защитой безопасности и конфиденциальности.

Несколько слов о том, откуда взялась информация. Фразы из 10-K о рисках агентов приведены так, как их передаёт CNBC: раздел с факторами риска не был прочитан целиком в документе SEC. Дата подачи, 3 ноября, тоже взята у CNBC, а определение факторов риска как «новых» принадлежит изданию, без прямого сравнения с 10-K за 2025 год. Слова Тернуса взяты у CNBC и не сверялись со стенограммой конференции. Данные об инвестициях, расходах на исследования и Siri AI, напротив, взяты из текста 10-K, опубликованного на сайте SEC.

Меня поражает расстояние между двумя голосами одного документа: с одной стороны — инвестиции и инфраструктура, с другой — признание, что сторонние ИИ-агенты могут выйти из-под контроля платформы, которая их принимает. По данным CNBC, собственного продукта агентного ИИ у Apple нет, но компания уже изменила одно из правил доступа на Mac, а её генеральный директор настаивает на осознанности пользователей. Ни то, ни другое само по себе не способно укротить программу, действующую от нашего имени; но вместе они показывают, что в Купертино проблема уже попала в официальные документы — раньше, чем в продукты. — Olya