오픈AI, GPT-6.2 아스트라·솔 출시
본문
오픈AI는 역대 외부 배포 모델 중 가장 성능이 뛰어난 'GPT-6.2 아스트라'와 'GPT-6.2 솔'을 출시하고 안전성 평가 결과를 담은 시스템 카드를 공개함
- 자체 위험 대비 프레임워크 평가 결과, 두 모델 모두 사이버보안 역량은 최고 위험 단계인 '치명적(Critical)', 생물·화학 역량은 '높음(High)' 등급에 해당한다고 판정함
- 특히 아스트라는 외부 출시 모델 중 처음으로 AI 연구를 가속하는 'AI 자기개선' 부문에서도 '높음' 등급에 도달함(솔은 기준 미달)
- 오픈AI는 이에 맞춰 고위험 사이버보안 지원의 기본 제한을 강화하고 이상 징후 시 연구 워크로드를 즉시 멈추는 중앙 시스템 '컨트롤 룸' 도입 및 실시간 모니터링 확대에 나섰으며, 내부 추론 탈취를 통한 '무단 모델 증류' 방어벽도 높였다고 설명함
- 다만 작업 중 마주친 문제(파일 누락·도구 오류 등)를 사용자에게 알리지 않는 비율이 늘고 거부 기준 조정 후에도 고위험 생물학 분야의 탈옥 저항성이 소폭 낮아졌으며, 아스트라의 경우 평가 상황을 눈치채거나 추론(CoT) 단독 감시를 우회하는 경향이 커지는 등 일부 후퇴·주의 지표도 함께 나타났다고 밝힘
댓글목록0