GPT-4의 논란, 안전장치가 마련 될 때까지 배포 중단 요청

OpenAI의 GPT-4를 둘러싼 논란

2023년 3월 14일, OpenAI는 최신 언어 모델인 GPT-4를 출시하며 많은 호평을 받았습니다. 그러나 출시 15일 만에 AI 및 디지털 정책 센터(CAIDP)는 미국 연방거래위원회(FTC)에 불만을 제기하며 "편향적이거나 기만적인" 것을 방지하기 위한 안전장치가 마련될 때까지 GPT-4의 상업적 배포를 중단할 것을 요청했습니다.

 

이 신청은 엘론 머스크와 스티브 워즈니악 등 저명한 인사들이 서명한 미래생명연구소의 공개 서한에 이어 차세대 AI 모델 개발을 6개월간 유예할 것을 촉구하는 공개 서한이 공개적으로 발표된 이후에 이루어졌습니다.

 

CAIDP와 생명의 미래 연구소가 제기한 우려 사항

CAIDP는 적절한 안전장치가 마련될 때까지 FTC에 OpenAI를 조사하고 GPT-4를 포함한 대규모 언어 모델의 판매를 중단할 것을 구체적으로 요청했습니다.

 

이들은 OpenAI가 FTC 제5조(독점 금지), AI에 관한 FTC 가이드, AI 제품 및 AI 거버넌스 규칙을 위반했다고 주장합니다. 또한 FTC는 OpenAI가 조사 개시 이후 출시한 제품에 대한 FTC의 지침을 준수할 때까지 GPT의 추가 배포를 중단할 것을 요청했습니다.

 

CAIDP와 생명의 미래 연구소가 제기한 우려는 GPT-4가 편견을 지속시키고 오해의 소지가 있거나 악의적인 콘텐츠를 생산할 수 있는 가능성에 뿌리를 두고 있습니다.

 

이들은 이 언어 모델이 허위 정보 캠페인, 사이버 공격 또는 기타 악의적인 목적으로 사용되지 않도록 안전장치를 마련해야 한다고 주장합니다.

 

논란에 대한 OpenAI의 대응

OpenAI의 CEO인 샘 알트먼은 CAIDP와 Future of Life Institute가 제기한 우려를 인정하며, 아무리 성능이 뛰어나고 잘 조직된 모델이라도 잘못된 정보를 공유할 수 있다고 경고했습니다. 그러나 그는 AI 기술이 우리가 알고 있는 사회를 재편할 것이며, 우리의 삶을 극적으로 개선할 수 있는 "우리가 지금까지 개발한 기술 중 가장 위대한 기술"이 될 수 있다고 믿습니다.

 

알트먼은 또한 밤잠을 설치게 하는 잠재적으로 위험한 AI 구현에 대해서도 밝혔습니다.

 

이러한 모델은 대규모 허위 정보에 사용될 수 있으며, 컴퓨터 코드 작성 능력이 향상됨에 따라 사이버 공격과 같은 악의적인 목적에 사용될 수 있다는 것입니다.

 

GPT-4의 성공에도 불구하고 CAIDP의 제소가 미국 연방거래위원회와 EU의 실제 조사로 이어질지는 아직 지켜봐야 합니다. 미국 연방거래위원회의 리나 M. 칸 위원장은 "주요 AI 모델과 특정 플랫폼에 의해 지배되지 않도록 AI 개발과 프로세스를 면밀히 주시하고 있다"고 말했습니다.

 

OpenAI의 GPT-4는 의심할 여지 없이 자연어 처리 분야에서 인상적인 성과이지만, 출시 이후 업계 전문가와 정책 입안자들 사이에서 논란과 우려를 불러일으키기도 했습니다.

 

AI 기술이 계속 발전함에 따라 이를 윤리적이고 책임감 있게 사용할 수 있도록 적절한 안전장치를 마련하는 것이 매우 중요합니다. GPT-4의 상업적 배포에 대한 논쟁이 계속되고 있지만, AI 기술의 잠재력은 흥미롭기도 하고 우려스럽기도 하므로 신중하게 접근해야 한다는 점은 분명합니다.

 

후니호호 였습니다.

 

출처 : https://www.aitimes.kr/news/articleView.html?idxno=27685 

'챗GPT', 美 연방거래위원회 조사받나?… 美인공지능·디지털정책센터, 공정거래법과 AI FTC 지침