xAI 최신 AI 모델 'Grok 4.7', 아마존 베드록 출시… 50만 토큰 문맥과 추론 제어 지원

xAI의 최신 AI 모델인 Grok 4.7이 아마존웹서비스(AWS)의 완전관리형 AI 서비스인 아마존 베드록(Amazon Bedrock) 모델 카탈로그에 공식 추가됐다. 이번에 출시된 Grok 4.7은 50만(500K) 토큰의 대규모 문맥 창(Context Window)을 제공하며, 텍스트와 이미지 입력을 처리해 텍스트 출력을 생성하는 멀티모달 모델이다. 베드록 런타임 엔드포인트를 통해 서비스되며, 사용자는 오픈AI 호환 규격인 리스폰시스(Responses) 및 챗 컴플리션(Chat Completions) API와 AWS 전용인 컨버스(Converse) API 및 인보크모델(InvokeModel)을 통해 이 모델을 호출할 수 있다. 또한 사용 목적과 비용 요구에 맞춰 모델의 사고 깊이를 조절할 수 있도록 로우(low), 미디엄(medium), 하이(high), 엑스하이(xhigh) 등 총 네 단계의 추론 노력(Reasoning effort) 설정 옵션을 지원한다.

Grok 4.7의 주요 설계 방향은 단순한 응답 속도보다는 복잡하고 긴 작업을 장시간 완수하는 지속성에 초점이 맞춰졌다. xAI가 2026년 9월 21일 발표한 내용에 따르면, 이 모델은 확장된 신규 기본 모델을 바탕으로 수 시간이 소요되는 고난도 작업 비중을 높인 장기 강화학습(RL) 훈련을 거쳤다. 이러한 학습 과정을 통해 모델은 작업 수행 도중 자신의 결과물을 면밀히 검증하는 능력과 50만 토큰의 문맥을 긴 호흡의 작업에서 효율적으로 활용하는 성능을 갖추게 됐다. 또한 그록 봇 하네스(Grok Bot harness)를 네이티브 수준으로 이해하도록 학습되어 대화형 작업과 일반 지식 업무 역량이 향상됐다. xAI는 소프트웨어 엔지니어링 벤치마크인 커서벤치(CursorBench)와 딥SWE(DeepSWE), 다시간 터미널 및 오피스 작업을 다루는 터미널벤치(Terminal-Bench)와 AA 브리프케이스(AA Briefcase), 전자공학 평가인 EE벤치(EEBench), 법률 업무용 하비 리걸 에이전트 벤치마크(Harvey Legal Agent Benchmark), 임상 추론 지표인 헬스벤치 프로페셔널(HealthBench Professional) 등 다양한 실무 평가 전반에서 성능이 향상됐다고 설명했다. 특히 장기 실행 에이전트 환경에서는 초기의 사소한 오류가 후속 단계로 누적되어 전체 실패로 이어지기 쉬운데, Grok 4.7의 자체 검증 기능은 이러한 연쇄 실패 위험을 줄이는 데 기여한다.

모델의 성능과 관련해 xAI 자체 보고 외에도 독립 평가 기관인 아티피셜 애널리시스(Artificial Analysis)의 벤치마크 결과가 함께 제시됐다. 아티피셜 애널리시스가 추론 노력을 'xhigh'로 설정해 측정한 결과에 따르면, 종합 역량 지표인 인텔리전스 인덱스(Intelligence Index)에서 Grok 4.7은 46점을 기록해 이전 버전인 Grok 4.6(44점)보다 향상됐다. 코딩 에이전트 인덱스(Coding Agent Index)는 47점에서 56점으로 크게 올랐으며, 장기 지식 작업을 평가하는 AA-브리프케이스(AA-Briefcase) 엘로(Elo) 평점은 1,546점에서 1,657점으로, 전문 지식 산출물을 평가하는 GDPval-AA 평점은 1,605점에서 1,695점으로 개선됐다. 반면 환각 발생률(AA-Omniscience hallucination rate)은 34%에서 29%로 감소했다. 안전성 부문에서는 새로운 세이프가드 스택이 적용되어 탈옥(Jailbreak) 시도 방어 및 부적절한 요청 거부 성능이 강화됐다. 사이버 보안 분야에서는 위험한 이중 용도 요청을 대부분 차단하는 동시에 정당한 보안 분석 작업은 정상적으로 통과시키도록 설계됐으며, 선별된 파트너에게는 방어 연구용 레드팀 기능이 제한적으로 제공된다.

아마존 베드록에서 Grok 4.7은 단일 리전에 묶이지 않고 교차 리전 추론 프로필(Cross-Region inference profiles)을 통해 제공된다. 개발자는 개별 모델 ID 대신 미국 리전 내에서만 처리되어 데이터 거주성 요건을 충족하는 지오 프로필(us.xai.grok-4.7)이나 전 세계 상용 AWS 리전으로 부하를 분산해 비용을 낮춘 글로벌 프로필(global.xai.grok-4.7) 중 하나를 지정해 호출해야 한다. 개발 환경에 따라 클라이언트 연동 경로도 구분된다. 오픈AI SDK를 사용할 경우 베드록 엔드포인트(/openai/v1) 경로와 함께 베드록 API 키 또는 IAM 단기 토큰을 베어러(Bearer) 인증 방식으로 전달하며, 기존 오픈AI 기반 코드를 손쉽게 마이그레이션할 수 있다. 반면 AWS SDK(boto3)를 사용하는 컨버스 API는 표준 AWS 자격증명을 바탕으로 시그니처 버전 4(SigV4) 서명을 수행해 호출하며, 계정 내 다른 파운데이션 모델들과 통일된 메시지 구조, 호출 로깅, 표준 이벤트 스트리밍 규격을 제공한다.

Grok 4.7은 베드록의 주요 엔터프라이즈 플랫폼 기능들과 긴밀하게 연동된다. 반복되는 프롬프트 접두사를 자동으로 감지해 할인 요율을 적용하는 암시적 프롬프트 캐싱(Implicit prompt caching)이 지원되어, 매 턴마다 대규모 시스템 프롬프트나 참조 문서를 전송해야 하는 에이전트의 운영 비용을 절감한다. 베드록 가드레일(Guardrails)을 연결하면 프롬프트와 응답 양방향에서 유해 콘텐츠 필터링, 금지 주제 차단, 개인식별정보(PII) 마스킹이 적용되어 무인 에이전트의 안정성을 확보할 수 있다. 응답 구조를 JSON 스키마로 강제하는 구조화된 출력(Structured outputs) 기능과 아마존 클라우드워치(CloudWatch) 호출 로깅도 지원되어 사고 토큰을 포함한 입출력 감사 추적이 가능하다. 서비스 이용 티어는 약정 없이 토큰당 비용을 지불하는 표준(Standard, default), 지연 시간을 줄이고 우선 처리권을 받는 프리미엄(Priority), 시간에 민감하지 않은 대량 처리를 위한 저비용(Flex)의 세 가지로 제공되어 비용을 유연하게 관리할 수 있다.

Grok 4.7을 실제 프로덕션에 적용할 때는 모델 고유의 특성과 제약 사항을 면밀히 고려해야 한다. 이 모델은 추론(Reasoning) 과정이 항상 활성화되어 있으며, 기본 추론 노력 설정값이 'high'로 지정되어 있다. 독립 벤치마크에 따르면 지능 지표 테스트 기준으로 Grok 4.7의 태스크당 출력 토큰 수는 약 8만 1,000개로 Grok 4.6(약 3만 8,000개) 대비 두 배 이상 많다. 따라서 단순 분류나 텍스트 추출 같은 경량 작업에는 노력을 'low'로 낮춰 토큰 소비와 지연 시간을 줄이고, 다단계 계획이나 오류 전파 위험이 큰 복합 작업에만 'high'나 'xhigh'를 적용하는 설정 최적화가 요구된다. 또한 컨버스 API로 응답을 수신할 때는 첫 번째 콘텐츠 블록에 추론 과정이 담기고 실제 답변 텍스트는 후속 블록에 위치하므로 단순 배열 인덱스 대신 텍스트 블록을 명시적으로 탐색해야 한다. 사고 과정 내용은 암호화되어 반환되는데, 리스폰시스 API에서는 이를 받아 후속 대화에 다시 전달할 수 있지만 챗 컴플리션 API는 사고 토큰을 반환하지 않는 차이가 있다. IAM 권한 설정 시에도 교차 리전 특성상 기반 모델 ARN에 와일드카드가 요구되고 각 프로필별로 권한을 별도 명시해야 하며, 탐색용으로 발급한 장기 베드록 API 키는 보안을 위해 테스트 후 삭제하고 프로덕션 환경에서는 IAM 기반 단기 토큰 생성기를 활용해야 한다.