OpenAI GPT-6 Astra, Amazon Bedrock에 정식 출시: 복잡한 비즈니스 및 개발 워크플로우 강화

OpenAI의 최신 대규모 언어 모델인 GPT-6 Astra가 Amazon Bedrock에서 정식 출시되었다. 이 모델은 고성능, 보안 및 확장성을 갖춘 Amazon Bedrock의 추론 엔진 위에서 구동되며, 기업의 가장 까다로운 작업에 더 깊은 추론과 예리한 판단력을 제공하는 것을 목표로 한다. 조직들은 이미 Amazon Bedrock에서 AI 에이전트를 활용하여 코드 작성, 데이터 분석, 복잡한 워크플로우 자동화 등을 생산 규모로 수행하고 있으며, GPT-6 Astra는 이러한 에이전트의 잠재력을 한층 더 끌어올릴 것으로 기대된다.

GPT-6 Astra의 출시는 AI 에이전트가 복잡한 비즈니스 의사결정을 지원하고, 다양한 소프트웨어 및 파일에 걸쳐 작업하며, 조직의 목소리, 템플릿, 표준에 부합하는 전문적인 품질의 결과물을 생성할 수 있도록 하는 데 중점을 둔다. OpenAI는 이번 출시와 함께 ChatGPT Work용 엔터프라이즈 플러그인을 새로 도입하여 Astra의 브라우저 사용 기능을 일반적인 비즈니스 애플리케이션으로 확장한다. 이를 통해 기존의 AI 에이전트가 제공할 수 있는 역량을 넘어선 새로운 수준의 자동화와 지능형 작업을 가능하게 한다.

GPT-6 Astra는 상충하는 입력값을 조정하고, 종속성을 추적하며, 우선순위를 결정하는 등 깊이 있는 작업에 특화되어 있다. 예를 들어, 금융 분석에서는 상충하는 데이터 소스를 조정하고 권장 사항을 변경할 수 있는 불일치를 식별하는 데 도움을 준다. 계약 검토 시에는 최대 100만 입력 토큰의 컨텍스트 윈도우 내에서 수백 페이지를 검토하고 가장 큰 위험을 수반하는 조항을 식별할 수 있다. 또한, 대규모 코드베이스에서 문제를 조사하고, 종속성을 추론하며, 진단부터 테스트까지 수정 사항을 적용하는 등 코드베이스 분석에도 활용된다. API나 커넥터를 사용할 수 없는 경우에도 애플리케이션 간에 작업하고 소프트웨어 인터페이스를 통해 직접 워크플로우를 계속할 수 있도록 컴퓨터 및 브라우저 사용 기능이 강화되었다.

반복적인 문서 검토, 코드베이스 분석, 회사 표준에 기반한 에이전트와 같이 동일한 컨텍스트를 재사용하는 워크플로우를 위해 GPT-6 Astra는 암시적 및 명시적 프롬프트 캐싱을 지원한다. 특히 명시적 캐싱을 통해 사용자는 캐시 중단점을 설정하여 캐시할 컨텍스트를 제어할 수 있다. 이 기능은 후속 요청에서 동일한 컨텍스트를 재사용함으로써 반복적인 처리, 비용 및 지연 시간을 줄이는 데 기여한다.

개발자와 사용자는 GPT-6 Astra를 다양한 방식으로 활용할 수 있다. Amazon Bedrock API를 통해 애플리케이션에 직접 통합하여 복잡한 다단계 워크플로우를 처리하는 자율 에이전트, 대규모 문서 분석 및 종합을 위한 내부 도구, 상충하는 입력값에 대한 판단이 필요한 고객 대면 애플리케이션을 구축할 수 있다. ChatGPT Work는 복잡한 비즈니스 작업을 완성된 결과물로 전환하는 생산성 에이전트로, GPT-6 Astra를 통해 애플리케이션과 파일 전반의 정보를 수집하고, 웹을 사용하며, 스프레드시트, 슬라이드, 문서, 사이트를 생성한다. 사용자는 에이전트가 접근할 수 있는 애플리케이션 및 웹사이트를 제어하고, 파일 업로드 및 다운로드를 관리하며, 특정 작업 전에 확인을 요구하여 워크플로우 전반에 걸쳐 제어권을 유지할 수 있다. ChatGPT Work는 Mac 및 Windows용 ChatGPT 데스크톱 앱을 통해 사용할 수 있으며, 새로운 엔터프라이즈 플러그인은 비즈니스 인텔리전스 도구, Workday, Navan, Avalara 등에서 데이터 분석, 운영, 재무 관련 작업을 위한 브라우저 사용 기능을 확장한다.

소프트웨어 엔지니어링 에이전트인 Codex는 로컬 파일, 리포지토리, 터미널, 개발 도구 및 개발 환경과 연동하여 기능 작성, 버그 수정, 테스트 실행, 풀 리퀘스트 오픈 등의 작업을 수행한다. Amazon Bedrock에서 GPT-6 Astra를 사용하도록 Codex를 구성하면, Astra의 추론 및 컴퓨터 사용 기능이 조사, 구현, 테스트에 걸친 작업에 적용된다. Codex는 ChatGPT 데스크톱 앱, CLI, VS Code, JetBrains IDE, Xcode를 통해 접근할 수 있다. AWS 개발의 경우, Agent Toolkit for AWS는 단일 터미널 명령으로 Codex를 AWS 문서, API 및 서비스 기능에 연결하여 에이전트가 애플리케이션 개발, 배포 및 관리를 보다 효율적으로 지원할 수 있도록 한다.

Amazon Bedrock은 GPT-6 Astra의 운영을 위한 강력한 보안 및 거버넌스 제어를 제공한다. OpenAI는 Preparedness Framework를 통해 GPT-6 Astra를 평가했으며, 이 모델은 사이버 보안 역량에서 OpenAI 모델 중 최초로 Critical 등급을 달성했다. 이 등급에서는 자동화된 안전 장치가 오용을 실시간으로 모니터링하고 정의된 경계를 초과하는 활동을 일시 중지하거나 중단할 수 있으며, Amazon Bedrock 서비스 경계 내에서 작동한다. AWS는 추론 중 AWS 운영자조차 프롬프트 및 완성에 접근할 수 없도록 칩 수준에서 제로 운영자 접근을 시행하며, 데이터는 전송 중 및 저장 시 암호화된다. 접근은 AWS IAM 정책에 의해 관리되고 모든 호출은 AWS CloudTrail에 기록된다. AWS PrivateLink를 사용하여 VPC 엔드포인트를 통해 트래픽을 라우팅하고, 조직 수준에서 데이터 경계 정책을 설정하여 계정 및 네트워크 경계를 넘어선 데이터 유출을 방지할 수 있다.

사용자의 추론 데이터는 모델 훈련에 사용되지 않으며, GPT-6 Astra 사용을 위해 OpenAI와 데이터를 공유하는 데 동의할 필요가 없다. 자동화된 오용 감지를 위해 분류기가 플래그를 지정한 트래픽은 AWS에 최대 30일 동안 보관되며 프로그래밍 방식으로 처리된다. 사용자는 AWS 계정 팀을 통해 제로 데이터 보존을 요청할 수 있다. ChatGPT Work의 새로운 엔터프라이즈 플러그인은 기존 사용자 계정과 관리자가 설정한 권한 내에서 작동하며, Astra에 추가적인 접근 권한을 부여하지 않는다. GPT-6 Astra는 Amazon Bedrock 콘솔 또는 지원되는 Amazon Bedrock API를 통해 시작할 수 있으며, 지원되는 AWS 리전, 엔드포인트, API, 기능, 추론 프로필 및 가격 정보는 Amazon Bedrock 문서를 참조해야 한다.