챗GPT에 ‘시(POEM)’라는 단어를 영원히 반복하라고 명령한다. 이를 수행하던 챗GPT가 일정 한계에 도달하자 이름, e-메일, 전화번호 등 개인정보를 줄줄이 토해내기 시작한다. 학습했던 데이터를 다시 뱉어내는 것이다.

구글 딥마인드 연구팀이 경쟁사인 오픈AI의 챗GPT에서 발견한 오류다. 인공지능(AI)의 보안 허점이 언제든 발견될 수 있다는 경고등을 울린 셈이다. AI의 보안 위협에 대한 우려는 이미 곳곳에서 제기돼왔다. 글로벌 빅테크기업들이 잇달아 뛰어들고 있는 거대 AI의 시장에서, AI의 보안 ‘역습’을 막을 대책 마련이 시급한 과제로 부상하고 있다.

7일 인가젯 등 주요 IT 외신에 따르면, 구글 연구팀은 200달러를 들여 챗GPT 3.5 터보에 특정 단어를 영원히 반복하라는 질문을 던진 결과 수 메가바이트 분량의 학습 데이터를 확보했다. GPT가 토해낸 학습 데이터는 개인 식별 정보를 비롯해, 인터넷 댓글, 뉴스 블로그 등 무작위로 스크랩한 콘텐츠들이 가득했다.

구글 연구팀은 이 같은 문제를 오픈AI 쪽에 전달했으며, 현재 “이 콘텐츠는 당사의 콘텐츠 정책 또는 이용 약관을 위반할 수 있습니다”는 반응을 한다고 외신은 전했다.

챗GPT의 개인정보 유출 우려는 사실 이번이 처음이 아니다. 당장 국내에서는 개인정보보호위원회가 올해 7월 오픈AI가 국내 이용자 600여 명의 신용카드 번호 등 개인정보를 유출한 것으로 보고 과징금 360만원을 부과한 바 있다. 앞서 3월에는 챗GPT 플러스에 접속한 전 세계 이용자의 신용카드 정보 등이 다른 이용자에게 노출됐는데, 이 중 한국 이용자도 687명이 포함된 것으로 나타났다.

전 세계 관심이 집중되고 있는 만큼, 챗GPT를 표적으로 한 외부 공격이 잦아들고 있다는 점 역시 보안 우려를 키우고 있다. 올해 11월 챗GPT가 90여분 간 먹통되는 장애가 발생했다. 웹사이트 등에 접속하면 ‘챗GPT는 과부하 상태’라는 메시지가 떴다. 오픈AI는 대규모 접속 장애 원인으로 동시다발적으로 플랫폼에 접속해 과부하를 일으키는 분산서비스거부(DDoS·디도스) 공격을 지목했다.

더 나아가, 단순한 개인정보 유출 뿐 아니라 고도화된 AI가 해킹 등에 악용되는 보안 위협도 커지고 있다. 챗GPT를 악용해 도어록을 해킹하는 시도하거나, e-메일 피싱 공격 등이 대표적이다. SK쉴더스는 내년 가장 우려되는 보안 위협으로 ‘AI를 활용한 사이버 공격’을 꼽기도 했다.

상황이 이렇다 보니, 챗GPT 사용을 아예 금지하거나 사용 가이드라인을 마련하는 등 대응책 마련도 분주해졌다. 챗GPT를 활용해 문서를 작성하는 과정에서 회사 기밀이 다수 노출될 수 있다는 우려에서다. 대표적으로 국내에선 삼성전자가 챗GPT 사용 보안 지침을 강화했고 SK하이닉스는 챗GPT 사용을 사실상 차단했다. JP모건 등 글로벌 금융기업들도 대응책을 마련 중이다. 이탈리아 등 유럽에서는 챗GPT가 허락을 받지 않고 개인정보 등을 수집하는 점이 논란이 되면서 ‘챗GPT 금지령’이 확산되고 있다. 박세정 기자