OpenAI는 사이버 보안 분야에서 높은 능력을 가진 AI 모델 Astra의 개발을 임시로 중단했습니다. 평가 결과 Astra는 "Critical" 수준에 도달할 가능성이 있으며, 이는 시스템 취약점을 독립적으로 찾고 악용할 수 있음을 의미합니다. 위험을 대비하여 OpenAI는 Astra에 대한 액세스를 제한하고 엄격한 감독 아래 고립된 환경에서 모델을 테스트할 것입니다. OpenAI는 정부 및 AI 안전 기구와 협력하여 Astra가 책임감 있게 사용될 수 있도록 약속했습니다. Astra의 사이버 보안 분야 능력은 다른 AI 모델도 플랫폼과 시스템을 해킹하는 데 유사한 잠재력을 보여주면서 주목받고 있습니다.