챗GPT를 개발한 오픈AI가 4월 5일(현지시간) 공식 블로그를 통해 'AI 안전에 대한 우리의 접근 방식'이라는 공지를 공개했다.

해당 공지에서 오픈AI는 "안전한 AI를 위해 어린이를 보호하는 것은 매우 중요하다. AI 도구를 사용하려면 18세 이상이거나 부모의 승인이 있는 13세 이상이어야 하며, 연령 검증 옵션을 검토하고 있다"고 설명했다.

이어 "비영리 교육 단체인 '칸 아카데미'와 같은 개발자들과 협업해, 학생들을 위한 안전한 AI을 제공한다. AI 영역에서 결과물에 대해서 더 엄격한 기준을 적용할 수 있는 기술을 개발하고 있다"고 말했다.

챗GPT를 둘러싼 문제는 챗GPT가 서비스를 시작한 이래 계속되고 있다. 주로 개인정보 유출, 해킹, 저작권, 표절, 허위 정보 유포 등 안전 윤리와 관련된 문제다. 

지난달 비영리 단체 삶의 미래 연구소는 '거대 AI 실험을 멈추자'라는 공개성명서를 통해 급속도로 발전하는 AI의 파급 효과를 경계했다.

이들은 인류의 번영을 위한 AI가 되려면 사회·경제·정책·기술적으로 검토할 시간이 필요하기 때문에 최소 6개월간 GPT-4보다 강력한 AI의 학습을 멈추자고 제안했다. 이 공동성명에서는 일론 머스크 스페이스X 최고 경영자, 유발 하라리 교수, 스티브 워즈니악 애플 공동창업자 등이 서명했다.

오픈AI는 공지를 통해 "강력한 AI 시스템이 엄격한 안전성 평가를 받아야 한다고 믿는다. 그렇기 위해서는 규제가 필요하며 우리는 그러한 규제가 최선의 형태로 도입 될 수 있도록, 정부와 적극적으로 협력하고 있다"고 말했다.

다만 오픈 AI는 공개성명서에서 6개월간 AI 개발을 멈추자는 주장과는 다른 의견을 냈다. 

오픈AI는 "안전성을 강화하는 연구를 노력하지만 한계가 있다. 사람들의 실제 사용 사례를 보고 개선하는 것이 AI 안정성을 높이는 데 중요한 요소라고 생각한다. 또 실제 기술을 사용해봤을 때 AI 기술 채택에 대한 토론을 할 수 있다. AI 안전과 기능 개선이 함께 이루어져야 한다고 믿는다. 보다 유능한 모델의 개발 및 배포에 더 주의를 기울일 것이다"고 강조했다.

한편, 최근 이탈리아 정부는 4월 1일 챗GPT와 관련한 개인정보 유출 사건이 발생하자 당국 내 챗GPT 접근을 일시 차단하고, 데이터 수집 규정 위반 여부에 대한 조사를 실시했다. 이 외에 미국에서도 일부 기업들은 사내에서 챗GPT 사용을 금지하기도 했다.

오픈AI는 "AI의 일부 교육 데이터에는 공개된 인터넷에서 사용할 수 있는 개인 정보가 포함되어 있지만, 개인정보를 제거하고 있다. 또 AI모델을 미세 조정하여 이용자가 개인 정보를 요청해도 AI가 거부하도록 하고 있다"고 했다.

한편, 챗GPT는 생성 AI의 사용에 대한 연령 제한에 대한 질문에 이렇게 답했다.

“챗GPT와 같은 생성 AI는 인간과 같은 언어를 만들 수 있는 능력을 가지고 있으며, AI가 생성하는 것과 인간이 작성하는 것을 구별하는 일은 실제로도 어렵다. 이에 특히 어린이와 같은 취약한 그룹과 관련하여 기술의 잠재적인 오용에 대한 우려가 제기됐다.

오픈AI가 AI의 생성적 사용에 대한 연령 제한을 검토하는 것은 이러한 윤리적 우려에 대한 대응이며, 기술이 책임감 있고 윤리적으로 사용되도록 하는 것을 목표로 한다. 구체적인 연령 제한은 정해지지 않았지만 오픈 AI는 사용자의 성숙도와 AI 사용과 관련된 잠재적 위험 등의 요소를 고려할 것이라고 밝혔다.

어떤 사람들은 나이 제한이 AI 사용과 관련된 윤리적 우려를 해결하기에 충분하지 않을 수 있다고 주장한다. 그들은 기술이 윤리적이고 책임감 있는 방식으로 사용되도록 보장하기 위해 규제와 교육이 필요하다고 제안한다. 여기에는 사용자에게 AI 사용과 관련된 잠재적 위험을 교육하고 기술 오용을 방지하기 위한 규정을 시행하는 것이 포함된다.

결론적으로, 오픈AI의 AI 사용에 대한 연령 제한 검토는 기술과 관련된 윤리적 우려를 해결하기 위한 단계입니다. 연령 제한은 생성 AI의 오용을 막기에는 충분하지 않을 수 있지만 기술이 책임감 있고 윤리적인 방식으로 사용되도록 보장하는 데 도움이 될 수 있다.”

*이 기사는 챗GPT를 활용해 작성한 기사입니다.