인공지능(AI)의 급속한 발전은 우려를 불러일으키고 있으며, 특히 개발자들 사이에서도 그렇습니다. 오픈AI의 최고 과학자 Jakub Pachocki는 점점 더 정교해지는 AI 모델 개발을 늦추는 것이 좋다고 제안했습니다. 아직 그 결과에 대처할 준비가 되어 있지 않기 때문입니다. 이러한 우려는 다양한 복잡한 작업을 잘 수행할 수 있는 가장 고급 AI 모델인 GPT-6 Astra를 출시한 후 나타났습니다. Pachocki는 몇 년 안에 AI 능력이 급증할 것이라고 예측했습니다. 심지어 AI가 "재귀적 자기 개선" 과정을 통해 스스로 발전시킬 수 있다고 말합니다. 이것은 인간의 통제를 벗어나 목표를 추구하는 자율적인 AI 에이전트의 등장에 대한 우려를 불러일으킵니다.
