“셀프 개선 AI 임박”…경고등 켜고 가속페달 밟는 앤스로픽의 두 얼굴 [김현지의 with AI]
기업 공개(IPO)를 앞둔 미국 AI 개발사 앤스로픽이 “곧 공개할 모델이 AI가 AI를 만드는 단계에 다가섰다”고 밝혔다. 업계에서 ‘재귀적 자기개선(RSI)’이라 부르는 단계에 가까워졌다는 뜻이다. 앤스로픽은 11월 2일(현지시간) 미 증권거래위원회(SEC)에 제출한 수정 증권신고서(S-1/A)에서 이 모델이 자사 안전 정책(RSP)이 정한 ‘AI 주도의 비약적 발전’ 기준에 해당할 수 있다고 적었다. RSI는 AI가 다음 세대 모델을 설계하고 훈련하고 평가하는 일에 참여하고, 그렇게 좋아진 모델이 다시 후속 모델 제작을 돕는 순환을 말한다. 일반인공지능(AGI)으로 가는 길목으로 거론된다. 개발 속도는 빨라지지만 이 과정에서 AI의 행동이 어긋나도 사람이 제때 알아채고 멈추지 못할 수 있다는 점이 위험으로 꼽힌다.● 위험 요인만 100쪽…‘인류에 실존적 위험’ 표현까지앤스로픽은 이런 위험을 신고서에서 숨기지 않았다. 신고서에서 위험 요인(risk factor) 항목만 10
하이에나뉴스