디지털 시대의 1면
난 신문 1면만 본다. 인공지능 신문에서는 가끔 크게 표시되는 기사와 1위로 올라온 기사가 1면인데, 최근 인공지능신문에서는 일론 머스크의 그록3(Grok 3)가 그 주인공이었다.
“지구에서 가장 똑똑한 AI”를 표방하며 출시된 그록3는 이미지 생성 능력에서 놀라운 성능을 보여주고 있다. 조간에는 아마도 인공지능 윤리(AI Ethics) 관련 후속 기사가 등장할 것으로 예상된다.
생성형 AI의 놀라운 현실
그록3의 이미지 생성 능력을 직접 테스트해본 결과, 그 결과물은 충격적이었다. 수백 장의 이미지를 생성해 보았다. 교도소에 유명 정치인을 넣어보기도 하고, 유명 연예인들의 결혼식을 상상해보기도 했다. 여기 공유하는 이미지들은 그중에서도 가장 무난한 것들이다. 나머지는 공개했다가는 불필요한 논란이 생길 소지가 있어 자제한다.
생성된 이미지들은 우측 하단에 그록(Grok)이라는 워터마크가 있지만, 이를 제거하고 “이재명, 윤석열 화해”와 같은 제목으로 뉴스 기사를 만들어도 의심받지 않을 정도의 품질이다. 물론 현재 그러한 상황이 아니기에 가짜 뉴스로 판별될 수 있지만, 고도로 계산된 가짜 뉴스는 인공지능 없이도 이미 언론사에서 활용하고 있는 기술이다.
정치인들 간의 더 친밀한 모습을 표현한 이미지들도 만들어 봤지만, 너무 사실적이어서 공개했다가는 법적 문제가 생길 수 있다고 판단했다. 상대적으로 수위가 낮은 것들은 “정치를 떠나 동시대를 사는 인간으로서 허용할 수 있는 수준”이라고 변명할 수도 있겠지만, 불필요한 분쟁을 피하고자 이러한 이미지들은 개인적인 호기심 충족으로만 남겨두기로 했다.
과거의 교훈
이런 상황은 블로그와 네이버 뉴스가 아직 큰 영향력을 갖지 못했던 시절의 경험을 떠올리게 한다. 당시 김 군이 가입한 무장 단체의 실상을 알리고자 생생한 자료를 공개했다가 지역 경찰서로부터 연락을 받은 적이 있었다. 내용이 너무 잔인하다는 이유로 게시물을 내려달라는 요청이 있었고, 응했지만 그래도 정확한 정보 전달을 통해 더 많은 피해를 막을 수 있었다고 생각한다.
이제는 인터넷에 사진을 올리면 그록과 같은 AI가 학습하여 마음대로 변형할 수 있는 시대에 우리는 살고 있다. 딥페이크(Deep Fake) 기술이 한동안 사회적 논란을 일으켰지만, 이제는 누구나 손쉽게 유명인을 대상으로 상상 속 이미지를 만들어낼 수 있게 되었다.
AI 윤리와 규제의 필요성
다른 것은 몰라도 인공지능 신문과 그 1면은 꼭 봐야 한다는 말을 독자께 전달하고 싶어 이 글을 썼다. 또한 이러한 상황에서 새로운 일자리 창출 아이디어도 생각하게 되었다.
이러한 기술을 막는 것도 중요하지만, 일부에서는 자유로운 사용을 주장할 수도 있다. 따라서 국가 또는 민간 차원에서 AI 윤리와 관련된 단체를 설립하고, 개인의 동의를 거쳐 AI에 활용될 수 있도록 하는 방안이 필요하다. 이러한 동의도 다양한 단계를 두어야 한다. 예를 들어, 29세 미만은 성인 콘텐츠 관련 키워드에 자신의 이미지가 활용되지 못하도록 하고, 30세 이상은 본인 의사에 따라 선택할 수 있게 하는 식이다.
경험상 규제가 있든 없든, AI가 있든 없든 불법적인 행위를 하고자 하는 사람들은 방법을 찾기 마련이다. 나도 가짜 인스타그램 계정으로 내 얼굴을 도용당한 경험이 있다. 고소 절차를 진행하자 바로 내려가기는 했지만. 오히려 완전히 금지하기보다는 합법적인 범위 내에서 관리하는 것이 더 효과적일 수 있다.
정책적 제언
개인정보위원회가 딥씨크(DeepSeek)의 추가 설치를 막고 윤리적 검토 시간을 마련한 조치는 환영할 만하다. 물론 이미 사용 중인 나로서는 크게 영향받지 않지만. 단순히 막는 것을 넘어, 관련된 일자리 창출 방안도 함께 제시되길 바란다.
AI 윤리는 기업에서는 주로 홍보나 마케팅 수단으로 잠시 활용될 뿐, 실질적인 효과나 수익성이 없어 국가 차원의 고민이 필요한 영역이다. AI 분야에서는 하드웨어 지원뿐만 아니라, 우리 아이들의 SNS 사진이 부적절하게 활용되지 않도록 하는 보호 체계에도 고정 예산이 편성되어야 한다.
아쉽게도 국내 인공지능 관련 매체에서는 이런 심층적인 논의보다는 표면적인 불만이 주를 이루는 것 같다. 해외 뉴스를 참고할 수도 있지만, 국내 상황을 신속하게 전달하는 매체로서 국내 AI 전문 언론의 역할도 중요하다.
유용한 AI 정보 소스
영어에 익숙하거나 크롬의 한국어 번역 기능을 활용할 수 있는 분들을 위해, 다음과 같은 AI 전문 해외 매체를 추천한다:
인공지능에 관한 소식을 접할 때마다 이러한 사이트를 방문하여 다양한 시각에서 정보를 얻는 것이 도움이 될 것이다.
이 글은 생성형 AI의 급속한 발전과 그에 따른 윤리적 도전에 대한 개인적인 경험과 생각을 담고 있습니다. 기술의 발전이 가져오는 혜택과 위험을 동시에 인식하고, 사회적 논의를 통해 건전한 활용 방안을 모색하는 것이 중요합니다.
답글 남기기