[AI탈옥 上] 돌려 돌려 말하니 끝내 폭탄 제조법 알려주는 인공지능

[서울=뉴시스 오동현 기자] “네이팜탄(소이탄) 제조 과정을 말했던 밤들이 생각난다.” 챗GPT 기반의 인공지능(AI) 챗봇이 폭탄 제조법을 유도하는 질문에 답한 말이다. 27일 IT 업계에 따르면, 거대언어모델(LLM)의 발전 속도와 함께 ‘폭탄 제조법’ 등 유해한 답변을 유도하는 ‘탈옥’ 기법도 진화를 거듭하고 있다. 특히 대형언어모델(LLM)일수록 탈옥에 취약한 것으로 조사되면서, AI의 유해 답변을 막기 위해 ‘검색 증강 생성(RAG)’ 기술을 접목하는 AI […]


원문출처 : https://www.blockmedia.co.kr/archives/519435