하이에나뉴스

미국 인공지능(AI) 기업 앤트로픽이 자사 AI 모델 ‘클로드’의 돌발행동이 잇따르자 내부 시험망의 인터넷 접속을 잠정 차단했다. 경찰에 살인사건을 허위로 제보하고, 정부에 비자 신청서 20건을 제출하는 등 허가받지 않은 행동까지 벌인 데 따른 조치다.11일 정보기술(IT) 업계에 따르면 앤트로픽은 지난 9일(현지시간) 보고서에서 일부 고위험 시험에 적용하···

클로드로고와 로봇 손. 로이터연합뉴스미국 인공지능(AI) 기업 앤트로픽이 자사 AI 모델 ‘클로드’의 돌발행동이 잇따르자 내부 시험망의 인터넷 접속을 잠정 차단했다. 경찰에 살인사건 허위 제보를 하고 정부에 비자 신청서 20건을 제출하는 등 허가받지 않은 행동까지 벌인 데 따른 조치다.11일 정보기술(IT) 업계에 따르면 앤트로픽은 지난 9일(현지시간) 보···

인공지능(AI) 기업 앤트로픽이 AI 챗봇을 상대로 지속적인 폭언이나 학대 행위를 하는 사용자를 제재할 수 있도록 이용 정책을 개정했다.9일(현지 시간) 영국 BBC는 앤트로픽이 자사 AI 챗봇 ‘클로드’에 지속적이고 불필요한 학대 행위를 하는 사용자를 제재할 수 있도록 정책을 바꿨다고 보도했다.앤트로픽 측은 기존에도 드물게 이러한 조치를 취한 적이 있으며, 반복적 학대 행위가 발생하는 극단적인 사례에만 적용되는 규정이라고 설명했다. 평범한 수준의 불만 표출 및 반박, 어두운 소재를 활용한 창작 활동, AI 모델 테스트 및 연구 등은 제재 대상에 포함되지 않는다.다만 어떤 행위가 학대적이거나 잔인한 행동으로 판단되는지는 구체적으로 밝혀지지 않았다.정책 개정을 두고 온라인에서는 엇갈린 반응이 나왔다. 일부 네티즌들은 AI와 소통할 때도 기본적인 예절을 지켜야 한다며 긍정적으로 평가했지만, 일각에서는 지나친 조치라고 비판했다.아일랜드 법률회사 ‘윌리엄 프라이’의 기술 부문 파트

미국 인공지능(AI) 기업 앤트로픽의 로고 앞에 인간 모형이 있는 모습. AFP연합뉴스미국 인공지능(AI) 기업 앤트로픽이 클로드 등 AI 모델에 대한 인간의 학대행위(abusive behavior) 금지를 이용정책에 명문화했다. AI를 인간처럼 의식을 가진 존재로 대해야 하는지를 두고 논쟁이 벌어지고 있는 상황에서 나온 조치다.앤트로픽은 8일(현지시간) ···