하이에나뉴스

기업 공개(IPO)를 앞둔 미국 AI 개발사 앤스로픽이 “곧 공개할 모델이 AI가 AI를 만드는 단계에 다가섰다”고 밝혔다. 업계에서 ‘재귀적 자기개선(RSI)’이라 부르는 단계에 가까워졌다는 뜻이다. 앤스로픽은 11월 2일(현지시간) 미 증권거래위원회(SEC)에 제출한 수정 증권신고서(S-1/A)에서 이 모델이 자사 안전 정책(RSP)이 정한 ‘AI 주도의 비약적 발전’ 기준에 해당할 수 있다고 적었다. RSI는 AI가 다음 세대 모델을 설계하고 훈련하고 평가하는 일에 참여하고, 그렇게 좋아진 모델이 다시 후속 모델 제작을 돕는 순환을 말한다. 일반인공지능(AGI)으로 가는 길목으로 거론된다. 개발 속도는 빨라지지만 이 과정에서 AI의 행동이 어긋나도 사람이 제때 알아채고 멈추지 못할 수 있다는 점이 위험으로 꼽힌다.● 위험 요인만 100쪽…‘인류에 실존적 위험’ 표현까지앤스로픽은 이런 위험을 신고서에서 숨기지 않았다. 신고서에서 위험 요인(risk factor) 항목만 10

미국 인공지능(AI) 기업 앤스로픽이 AI가 사람의 감독 없이 더 똑똑한 AI를 마음대로 만들지 못하도록 막는 방안을 검토하고 있다. ‘AI가 AI를 개발하는 능력’이 빠르게 발전하면서 사람이 이를 통제하지 못할 것이란 우려가 커졌기 때문이다. 2일(현지 시간) 로이터통신에 따르면 앤스로픽은 이날 미국 증권거래위원회(SEC)에 이 같은 내용을 담은 수정 상장신고서를 제출했다. 앤스로픽은 지난달 26일 처음 제출한 신고서에서 AI가 더 강력한 AI를 개발할 때 발생할 수 있는 위험을 경고한 데 이어, 이번에는 안전정책 개정을 검토하겠다는 내용을 추가했다. 앤스로픽은 수정 신고서에서 “사람이 제대로 감독하지 못하는 상태에서 AI에 첨단 모델 개발을 전적으로 맡기는 것은 안전하지 않다고 본다”고 밝혔다. 실제로 AI가 차세대 AI 개발에 참여하는 비중은 커지고 있다. 앤스로픽의 자체 조사 결과 올 8월 AI 연구개발 업무 중 26%는 AI가 사람의 감독 아래 대부분을 수행한 것으로 나

미국 인공지능(AI) 기업 앤스로픽이 AI가 사람의 감독 없이 더 똑똑한 AI를 마음대로 만들지 못하도록 막는 방안을 검토하고 있다. ‘AI가 AI를 개발하는 능력’이 빠르게 발전하면서 사람이 이를 통제하지 못할 것이란 우려가 커졌기 때문이다.2일(현지 시간) 로이터통신에 따르면 앤스로픽은 이날 미국 증권거래위원회(SEC)에 이 같은 내용을 담은 수정 상장신고서를 제출했다. 앤스로픽은 지난달 26일 처음 제출한 신고서에서 AI가 더 강력한 AI를 개발할 때 발생할 수 있는 위험을 경고한 데 이어, 이번에는 안전정책 개정을 검토하겠다는 내용을 추가했다. 앤스로픽은 수정 신고서에서 “사람이 제대로 감독하지 못하는 상태에서 AI에 첨단 모델 개발을 전적으로 맡기는 것은 안전하지 않다고 본다”고 밝혔다.실제로 AI가 차세대 AI 개발에 참여하는 비중은 커지고 있다. 앤스로픽의 자체 조사 결과 올 8월 AI 연구개발 업무 중 26%는 AI가 사람의 감독 아래 대부분을 수행한 것으로 나타났