AI 팀원이 메모리를 구축하는 방법: 업무를 재사용 가능한 지식으로 전환

대부분의 AI 제품은 메모리를 개인적인 기능으로 취급하여 한 사용자 또는 한 대화에 대한 사실을 기억합니다. 그러나 팀 간 협업하는 AI에는 근본적으로 다른 종류의 메모리가 필요합니다. AI 시스템은 이전에 학습한 내용을 바탕으로 구축할 수 있을 때 더 유용해집니다. 그러나 엔터프라이즈 소프트웨어에서 메모리는 단순히 더 많은 컨텍스트를 저장하는 것이 아닙니다. 더 어려운 문제는 해당 메모리를 검사 가능하고, 관리 가능하며, 권한을 인식하는 상태로 유지하면서 공유된 작업 전반에 걸쳐 유용하게 만드는 것입니다.

이것이 바로 AI 팀원을 통해 해결하고자 하는 과제입니다.

AI 팀원은 다른 환경에서 작동합니다. 공유된 작업, 프로젝트, 문서에 대해 협업합니다. 여러 사람에게서 피드백을 받습니다. 여러 시스템에서 업무를 수행합니다. 또한 아무도 감사할 수 없는 숨겨진 맥락으로 가득 찬 블랙박스가 되지 않고 시간이 지남에 따라 개선되어야 합니다.

이로 인해 다른 디자인 문제가 발생합니다. AI 팀원에게는 실행을 통해 학습하고, 나중에 관련 지식을 검색하고, 해당 지식이 AI 팀원의 행동에 어떤 영향을 미쳤는지 설명할 수 있는 방법이 필요합니다. 동시에, 모든 이전 정보를 전역적으로 재사용 가능한 것으로 취급할 수는 없습니다. AI가 기억하는 것과 사용할 수 있는 것은 기본 업무에 적용되는 것과 동일한 경계를 준수해야 합니다.

실제로, 이는 메모리가 기업급 협업 아키텍처의 일부가 된다는 것을 의미합니다. 학습, 검색, 액세스 제어, 투명성을 하나의 시스템으로 연결합니다.

일회성 배경 정보에서 재사용 가능한 지식으로

AI 어시스턴트의 가장 단순한 버전은 매번 처음부터 시작합니다. 프롬프트를 제공하고, 파일을 몇 개 첨부할 수도 있으며, AI는 해당 한 번의 상호 작용 내에서 도움을 주려고 합니다. 이는 개별 요청에는 효과가 있을 수 있지만, 장기적인 팀 워크플로에서는 빠르게 문제가 발생합니다.

사람 협업 참여자는 현재 메시지에 응답하는 것뿐만 아니라, 팀이 선호하는 프로세스, 좋은 결과물을 정의하는 예시, 중요한 문서, 지난주에 받은 피드백, 업무 수행 방식을 결정하는 프로젝트 컨텍스트를 기억합니다. AI 팀원이 실제 협업 참여자처럼 느껴지려면 동일한 유형의 업무 지식을 축적할 방법이 필요합니다.

저희에게 이는 지식의 전체 수명 주기를 포괄하는 통합 메모리 계층을 구축하는 것을 의미했습니다.

• 기억이 생성되는 방식

• 향후 실행 중에 메모리를 검색하는 방법

• 업무 그래프(조직 전체의 작업, 프로젝트, 사람, 목표를 연결하는 Asana의 구조화된 데이터 모델)에 연결되는 방식

• 사용자가 팀원이 학습한 내용을 검사하고 관리하는 방법

마지막 요점은 처음에 보이는 것보다 더 중요합니다. 아무도 검사하거나 수정할 수 없는 강력한 메모리 시스템은 신뢰를 형성하지 않습니다. 새로운 실패 모드를 만듭니다.

AI 팀원이 메모리를 생성하는 방식

우리가 처음으로 선택한 디자인 중 하나는 팀원이 기억을 생성하기에 적합한 순간을 식별하는 것이었습니다.

한 가지 유형의 메모리는 실행 중 또는 실행 후에 추론됩니다. 팀원이 작업을 진행하면서 지침을 접하고, 리소스를 읽고, 조치를 취하고, 피드백을 받습니다. 이러한 정보 중 일부는 일시적입니다. 일부는 지속적이고 재사용할 가치가 있습니다. 예를 들어, 사용자는 “이 작업에는 항상 데이터 모델 검토자를 참조로 추가하세요”와 같은 피드백을 제공할 수 있습니다. 또 다른 예로, 팀원이 프로젝트를 읽을 때 프로젝트의 목적에 대한 정보를 얻을 수 있습니다(예: 프로젝트 X에는 조직의 마케팅 캠페인 모범 사례에 대한 리소스가 포함되어 있습니다). 이러한 정보는 지속적인 메모리에 적합한 강력한 후보입니다.

또 다른 메모리 클래스는 명시적 메모리입니다. 사용자는 시스템이 추론할 때까지 기다리지 않고 직접 지침을 제공할 수 있습니다. 이는 목표가 과거 업무에서 교훈을 얻는 것이 아니라 팀원에게 더 넓은 업무 맥락에서 행동하는 방법이나 특정 리소스를 사용하는 방법을 가르치는 경우에 특히 중요합니다.

이러한 명시적 경로는 리소스 연결 메모리에 특히 강력합니다. 사용자는 팀원에게 문서에 대한 액세스 권한을 부여한 다음 해당 리소스가 어떤 역할을 해야 하는지 설명할 수 있습니다. 팀이 커뮤니케이션하는 방식을 설명하는 프로세스 문서인가요? 도메인 지식이 포함된 참조 문서인가요? 미래 업무를 형성해야 하는 템플릿인가요? 동일한 소스 자료가 사용자의 의도에 따라 매우 다르게 사용될 수 있기 때문에 이러한 구분이 중요합니다.

메모리가 생성될 때마다 '메모리 연결'이 생성됩니다. 이는 기본적으로 메모리가 다루는 업무 그래프 개체 또는 메모리와 관련된 업무 그래프 개체에 대한 참조입니다. 예를 들어, 메모리가 설명하는 프로젝트이거나 사용자가 업로드한 Google 문서 리소스일 수 있습니다. 이 기사에서 더 자세히 설명하겠지만, 이러한 연계는 메모리를 검색하고 적절한 액세스 제어를 보장하는 데 매우 중요합니다.

AI 팀원이 메모리를 검색하는 방법

메모리 시스템은 검색 모델에 따라 그 가치가 결정됩니다. 적절한 시기에 적절한 지식이 표시되지 않는다면 유용한 학습 내용을 저장하는 것만으로는 충분하지 않습니다.

AI 팀원의 경우, 검색은 2차선 시스템으로 작동합니다.

첫 번째 레인은 실행-시작 검색입니다. 팀원이 작업을 시작하면, 결정을 내리기 전에 관련 메모리 세트를 받습니다. 여기에는 항상 적용되어야 하는 고정된 지침, 현재 업무와 일치하는 이전 학습 내용 또는 검색 또는 의미적 유사성에 기반하여 관련성이 있는 것으로 보이는 상위 수준의 지식이 포함될 수 있습니다.

두 번째 레인은 실행 중의 상황별 검색입니다. 팀원이 특정 작업, 프로젝트 또는 기타 객체를 읽으면 해당 객체와 관련된 메모리도 받습니다. 일부 지식은 일반적으로 추상적으로는 관련이 없기 때문에 이것이 중요합니다. 팀원이 이제 업무 그래프의 특정 부분을 보고 있기 때문에 관련성이 높아집니다.

이 조합은 시스템에 유용한 균형을 제공합니다. 팀원은 관련성이 높은 것으로 보이는 광범위한 작업 세트로 시작하여, 업무를 더 깊이 살펴가면서 더 정확한 맥락을 파악할 수 있습니다.

메모리 운영 가능하게 만들기

가장 중요한 디자인 선택 중 하나는 메모리를 신비로운 것이 아니라 운영 가능한 것으로 표현하는 것이었습니다. 당사의 데이터 모델에서 메모리는 내용, 메타데이터, 연관성이 있는 구체적인 객체입니다.

메모리 연계는 메모리가 다루는 또는 관련 있는 업무 그래프 객체를 캡처합니다. 이를 통해 메모리가 캡처하는 맥락과 메모리가 분리되는 것이 아니라, 더 넓은 업무 그래프에서 메모리를 명시적으로 맥락화할 수 있습니다. 

액세스 제어가 전체 디자인에 영향을 미칩니다

여러 사람, 프로젝트, 권한이 관여하는 순간 엔터프라이즈 메모리 시스템은 훨씬 더 어려워집니다.

개인 비서 AI는 종종 메모리를 한 사용자의 이력의 단순한 확장으로 취급할 수 있습니다. 그러나 공유된 작업 전반에 걸쳐 작업하고 여러 사람이 트리거할 수 있는 팀원은 이를 안전하게 수행할 수 없습니다. 시스템이 생성하는 모든 메모리는 작업, 댓글, 문서, 프로젝트, 이전 실행과 같은 실제 기본 업무에서 파생됩니다. 메모리가 이러한 소스에서 자유롭게 떠다닐 수 있다면, 권한 경계를 넘어 정보가 유출되는 채널이 될 수 있습니다.

이것이 AI 팀원의 메모리가 메모리가 유래한 업무와 동일한 액세스 제어 로직을 상속해야 하는 이유입니다.

모든 메모리 검색은 실행을 트리거한 사람에게만 적용됩니다. 팀원은 해당 메모리를 생성한 업무(관련 작업, 댓글, 문서 또는 프로젝트)에 대한 가시성을 가진 경우에만 메모리에 액세스할 수 있습니다. 연결에 대한 동일한 규칙: 메모리가 작업이나 프로젝트와 같은 Asana 개체를 참조하는 경우, 트리거하는 사용자도 해당 개체를 볼 수 있는 경우에만 표시됩니다. 다시 말해, AI 팀원은 트리거한 사람이 이미 볼 수 없었던 것은 절대 볼 수 없습니다.

투명성을 통해 루프를 종결

마지막 요소는 가시성입니다. 팀원이 메모리를 사용하여 작업을 안내하는 경우, 사용자는 해당 영향력을 이해할 수 있는 방법이 필요합니다.

이는 검사 가능한 메모리 자체에서 시작됩니다. 사용자는 팀원이 보유한 메모리를 볼 수 있어야 하며, 부정확하거나 오래된 메모리를 삭제할 수 있어야 합니다. 또한 팀원이 실행을 할 때 시스템은 실행 컨텍스트로 전달된 메모리와 실행 과정에서 생성된 메모리를 표시할 수 있습니다.

"왜 AI가 그렇게 했나요?"라고 추상적으로 묻는 대신 사용자는 행동을 추적하여 학습된 특정 지침, 리소스 메모리 또는 관련 컨텍스트 객체로 거슬러 올라갈 수 있습니다. 수정 사항이 구체화됩니다. 메모리를 편집하거나, 제거하거나, 소스를 새로 고치거나, 더 나은 지침을 추가합니다.

예를 들어, 팀원이 예상과 다른 방식으로 보고서의 서식을 지정하는 경우, 사용자는 팀원의 메모리를 확인하여 지난주 다른 팀원의 피드백을 통해 서식 지정 선호도를 학습했음을 확인하고 해당 메모리를 업데이트하거나 제거하여 동작을 변경할 수 있습니다.

이것이 바로 메모리와 투명성을 함께 설계해야 하는 이유입니다. 시간이 지남에 따라 학습하는 팀원은 더 강력합니다. 눈에 보이지 않게 학습하는 팀원은 신뢰하기가 더 어렵습니다.

이것이 중요한 이유

이전 게시글에서는 AI 팀원이 공유 팀 공간에서 투명하게 운영되는 방식을 살펴보았습니다. 메모리는 협업을 강화하는 계층입니다. 시스템은 공유된 업무에서 학습하고, 중요한 순간에 해당 지식을 검색하며, 업무 자체를 관리하는 동일한 신뢰 경계 내에서 이러한 작업을 수행합니다. 

더 깊은 교훈은 팀 범위의 AI에는 더 큰 맥락 창 이상의 것이 필요하다는 것입니다. 협업을 지속 가능하고 재사용 가능하며 관리 가능한 지식으로 전환하는 모델이 필요합니다.

다음 게시글에서는 이러한 추론을 뒷받침하는 언어 모델을 평가하고 선택하는 방법을 살펴보겠습니다.

이 기사는 AI 팀원 팀의 엔지니어인 Anant Tibrewal이 작성했습니다. Anant는 Asana의 협업 에이전트 AI 제품을 구축하고 확장하기 위해 노���하고 있습니다.