Агенты ИИ для команд: общий контекст и прозрачность в корпоративном ИИ

Пробел в ответственности

Корпоративные ИИ-агенты — это системы ИИ, которые могут выполнять действия в рамках общих рабочих процессов между командами и проектами. Эта сфера быстро развивается, поскольку всё больше платформ выпускают собственные варианты ИИ-помощи, затрагивающие общий контент команды.

Большинство организаций всё ещё не могут выйти за рамки пилотных проектов. В отчете Camunda «State of Agentic Orchestration & Automation» за 2026 год было установлено, что только 11% случаев использования агентного ИИ достигли стадии производства, при этом 73% организаций сообщили о разрыве между своими амбициями в области ИИ и реальностью. Отдельное исследование Dynatrace показало, что половина всех проектов в области ИИ застряла на этапе концепции или пилота. Главный барьер в обоих случаях — доверие.

Модели обладают поразительными возможностями, но узким местом является ответственность. Когда агент на базе ИИ выполняет общую работу, затрагивающую нескольких человек, все участники должны знать, что он сделал, почему и в каких пределах. Большинство современных инструментов ИИ не отвечают на эти вопросы, поскольку не позволяют легко понять, что ИИ сделал и почему. Действия происходят в закрытых цепочках или за интерфейсами, где участие ИИ незаметно. Когда что-то идёт не так (а с вероятностными системами это неизбежно), следов не остаётся.

Мы создали ИИ-ассистентов на основе предпосылки, которая напрямую связана с нашей историей. Более десяти лет Asana разрабатывает Work Graph — структурированное представление того, кто, что, к какому сроку, для достижения каких целей и в координации с кем делает. Принципы, лежащие в его основе (общая прозрачность, чёткая ответственность, доступ с учётом разрешений, структурированное общение), были разработаны, чтобы сделать сотрудничество между людьми эффективным. Эти же принципы оказались именно тем, что необходимо для обеспечения доверия к совместной работе с ИИ.

Опираемся на то, что уже работает

Большинство продуктов с агентами ИИ начинают с модели и работают по принципу «вот что может делать ИИ, теперь давайте выясним, как это вписывается в ваш рабочий процесс». Мы начали с противоположного направления. У Asana уже были чёткие представления о том, как добиться структурированности, ответственности и лёгкости совместной работы над общими задачами. Эти представления были встроены в продукт за годы итераций.

Всё это закодировано в Work Graph. Каждая задача, проект, цель и обсуждение существуют в сети взаимосвязей: кто за них отвечает, кто участвует в их выполнении, чему они способствуют, что от них зависит. Когда команды используют Asana, они постоянно создают и совершенствуют эту структурированную картину своей работы.

Когда мы начали создавать ИИ-агентов, возник вопрос: что, если ИИ будет работать в рамках этой же структуры? Что, если вместо того, чтобы создавать отдельную контекстную модель для ИИ, мы позволим ему участвовать в уже созданной нами модели совместной работы?

Это наша основная концептуальная модель, лежащая в основе ИИ-ассистентов: по возможности их возможности соответствуют возможностям человека-пользователя в организации. Им назначают задачи. Они читают и пишут комментарии. Они отображаются в тех же лентах активности. Их доступ к контенту ограничен таким образом, что совместная работа с участником команды никогда не расширяет чьи-либо разрешения сверх тех, которые у них уже есть. Инфраструктура, обеспечивающая организованность и прозрачность совместной работы людей, естественным образом распространяется и на ИИ, поскольку сложные проблемы корпоративного ИИ (контекст, контроль доступа, координация, видимость) уже были проблемами, которые мы решали для людей.

Как общий контекст выглядит на практике

Большинство инструментов ИИ предоставляют агенту доступ ко всему, что может видеть один пользователь при его вызове. ИИ-ассистенты работают по-другому: они находятся в том же рабочем пространстве, где ведётся фактическая работа команды, вместе с проектами, задачами, целями и обсуждениями, определяющими, чего пытается достичь организация.

Когда участнику команды назначается задача, он получает контекст об этой задаче и всей работе, непосредственно связанной с ней: родительский проект, связанные цели, зависимости и сотрудников. Он также может выполнять поиск по более широкому Work Graph, подбирая соответствующие задачи, проекты, цели и людей на основе того, что полезно для текущей работы.

Это означает, что несколько человек взаимодействуют с одним и тем же участником команды в рамках общей работы. Менеджер проекта назначает задачу. Дизайнер оставляет комментарий с ограничениями. Инженер добавляет технический контекст. Участник команды опирается на всё это,

накапливая рабочие знания, охватывающие сотрудников и инициативы.

Поскольку Work Graph уже фиксирует, как команды координируют свою работу, участник команды может рассуждать о работе так же, как это делает сотрудник: что мешает запуску, кто отвечает за следующий шаг и о чём мы договорились на прошлой неделе. Такое мышление возможно только тогда, когда ИИ работает в той же структуре, которую команда уже использует для согласования действий.

Как ИИ-ассистенты соблюдают конфиденциальность

Как и в случае с пользователями-людьми, для ИИ-ассистентов действует явное управление доступом во всей Work Graph. Некоторые задачи и проекты общедоступны для всех (и каждого ИИ-ассистента) в организации. Для других требуется участие в проектах и портфелях, которое прямо предоставляется отдельным лицам или передаётся через команды.

Только определённому кругу людей (часто команде в Asana) разрешено инициировать действие участника команды. Они коллективно управляют знаниями, указаниями и доступом участника команды к работе.

ИИ-ассистенты получают дополнительную защиту: фактический доступ участника команды всегда ограничен разрешениями человека, который его инициирует. Благодаря этому участники команды могут получить широкий доступ к контенту, при этом риск того, что кто-то расширит их доступ и включит в него информацию, которую ИИ-ассистент узнал в отдельном, закрытом контексте, сводится к минимуму.

Недетерминированность вместо жёстких рабочих процессов

Разные организации структурируют одну и ту же работу совершенно по-разному. Одни отслеживают зависимости через связи между задачами, другие — через подзадачи, третьи — через разделы проекта. Мы могли бы создать жёсткую модель выполнения, которая идеально подходила бы для одного стиля рабочего процесса. Вместо этого мы предоставляем участнику команды контекст о том, как выглядят взаимосвязи в конкретном рабочем пространстве, а также возможность искать и извлекать уроки из прошлой работы, чтобы он накапливал опыт, специфичный для организации. Подобно новичку, он учится работать по правилам вашей команды, а не заставляет вас следовать нашим.

Невозможно составить единую блок-схему того, как ИИ обрабатывает запрос. Это сделано намеренно. Детерминированная система хорошо бы подошла для той части команд, которая соответствует нашим предположениям, но не сработала бы для всех остальных. Недетерминированность — это то, что позволяет одному и тому же агенту адаптироваться к радикально различающимся способам организации работы. А поскольку Work Graph Asana уже фиксирует, как каждая команда структурирует совместную работу, у участника команды с первого дня есть богатая, специфичная для организации основа, на которой можно учиться.

Простая память с плотными циклами обратной связи

Система памяти участника команды по своей сути представляет собой список текстовых фактов, связанных с объектами, к которым они относятся. Мы начали с этого, а не с векторной базы данных или графа знаний, потому что хотели понять, чего можно достичь с помощью плотного цикла обратной связи, прежде чем инвестировать в более сложную инфраструктуру.

Мы обнаружили, что цикл выполняет большую часть тяжелой работы. Участник команды работает в общем контексте, где пользователи естественным образом исправляют его, уточняют его инструкции и взаимодействуют с его результатами в ходе выполнения своей работы. Обеспечение любого пути для повторного ввода изученных фактов в контекстное окно на будущих этапах позволяет использовать все виды эмерджентного интеллекта и настройки. Поэтому для начала мы сосредоточились на быстрой и простой реализации.

Архитектура будет развиваться по мере совершенствования продукта, но неизменным остаётся вывод о том, что хороший цикл обратной связи имеет как минимум такое же значение, как и сложность хранилища. А поскольку сегодня память — это просто текст, её можно полностью проверить. Пользователи могут видеть каждое воспоминание участника команды прямо в его профиле.

Доступ к памяти осуществляется по той же модели разрешений, что и всё остальное в Asana. Запись памяти доступна только тем, кто может просматривать задачу, над которой работал участник команды на момент её создания. Когда у ИИ есть доступ к нескольким проектам с разными уровнями доступа, это та грань, которая предотвращает утечку информации за пределы разрешений.

Ответственность на уровне действий, отражающая рабочие процессы команды

Когда участник команды выполняет работу, пользователи видят индикатор его работы в режиме реального времени и могут открывать журналы действий ИИ — полную историю каждого действия, например, созданных задач, опубликованных комментариев, выполненных поисков, изменённых объектов. Конкретные результаты видны в Work Graph всем, у кого есть доступ, включая людей, которые не запускали участника команды. Прежде чем выполнить любое действие, чувствительное с точки зрения конфиденциальности, участники команды должны получить явное подтверждение пользователя — это жёсткое ограничение, встроенное в систему.

Эта модель ответственности расширяет то, как группы уже работают в Asana. Когда сотрудник-человек завершает задачу или публикует обновление, это видно команде. ИИ-ассистенты действуют по той же схеме. Вы можете видеть, что они сделали. Вы можете спросить их, почему, и они объяснят это, исходя из того же контекста, который использовали для принятия решения. Они не будут предпринимать важные действия без разрешения. Когда что-то идёт не так, об этом остаётся чёткая запись. В условиях, когда большинство организаций называют прозрачность препятствием для развертывания, мы считаем, что конкретная ответственность (видимые действия, проверяемая память, этапы подтверждения) имеет большую ценность, чем абстрактные обещания о возможности объяснения. Поскольку ИИ-ассистенты работают в общих пространствах команды, их работу видит вся команда, а не только человек, который их активировал. Это встроенная возможность аудита: все видят, что сделал ИИ, а не только человек, который отправил запрос.

Почему эти свойства неотделимы друг от друга

Общий контекст без ответственности — это риск. ИИ, который накапливает знания, полученные из работы нескольких людей, но не даёт возможности проверить, что он знает или как действует, быстро потеряет доверие. Люди будут скрывать контекст от ИИ, который они не могут контролировать, что сводит на нет цель создания архитектуры на уровне команды.

Ответственность без общего контекста решает более простую и менее интересную проблему. Если ИИ работает в изолированных потоках, возможность аудита очевидна. Настоящая задача — сделать ИИ подотчётным, когда он работает над общей межфункциональной работой, затрагивающей людей с разными уровнями доступа и разными интересами.

Модель доступа объединяет их. Годы, которые Asana потратила на создание модели разрешений для совместной работы людей, обеспечили большую часть основы. Распространение этой модели на ИИ означало дальнейшее развитие, чтобы гарантировать, что доступ никого не будет расширен в результате работы с участником команды. Без этого многоуровневого подхода ИИ на уровне команды был бы неприемлем для большинства организаций.

Где мы находимся

Команды используют ИИ-ассистентов для управления проектами, документирования, исследований и межфункциональной координации. Самый распространённый сценарий, который мы наблюдаем: ИИ делает координацию управляемой в масштабах, превышающих возможности человеческого внимания. Участник команды, назначенный на проект запуска, отслеживает работу от постановки цели до выполнения, выявляя, что требует внимания, без необходимости вручную составлять обновление статуса.

В собранных нами положительных отзывах постоянно подчёркиваются три качества. Участников команды можно назначать, и они работают вместе с вами над общими задачами. Они работают с доступом, подлежащим аудиту, поэтому вы видите, что они сделали, и они спрашивают, прежде чем сделать что-то конфиденциальное. И они накапливают адаптивные знания, становясь более полезными с каждым взаимодействием по мере накопления циклов обратной связи и простой памяти.

Вся отрасль работает над устранением разрыва между демонстрационными возможностями ИИ и надёжной производительностью в реальных условиях. Команды, которые получают реальную пользу от ИИ-ассистентов, относятся к ним как к новым сотрудникам, которым для эффективной работы необходимы контекст, обратная связь и четкие границы.

Внутри компании мы использовали ИИ-ассистентов для конфиденциальной работы, включая создание отчётов о статусе, сортировку ошибок и планирование запусков. Мы использовали модель контроля доступа и контрольные пункты, управляемые человеком, чтобы обеспечить уверенность в том, что люди и ИИ могут безопасно и продуктивно сотрудничать независимо от текущей задачи.

Агенты, которые останутся, не будут теми, у кого самые впечатляющие демонстрации. Это будут те, которые работают так, как уже работают команды: в общих пространствах, с видимыми действиями, опираясь на модели совместной работы, которым команды уже доверяют. Asana потратила годы, чтобы научиться делать командную работу людей структурированной, прозрачной и подотчётной. ИИ-ассистенты — это эволюция этих принципов в эпоху коллаборативного ИИ.

Эта статья написана Кори Десотелсом, инженером-программистом. Кори Десотелс — инженер в команде ИИ-ассистентов, где он работает над созданием и масштабированием продукта Asana на основе агентного ИИ для совместной работы.