AI가 만든 콘텐츠, 알리지 않아도 괜찮을까?

AI가 만든 콘텐츠와 AI 사용 사실을 알리는 일은 다릅니다

뉴스에 삽입된 사진이 AI로 만들어졌다면 어떨까요.
영화 속 장면이 AI로 제작됐다면 같은 반응을 보일까요.
그리고 그 사실을 제작자가 알려주지 않았다면, 우리의 평가는 달라질까요.

AI 콘텐츠를 둘러싼 논의에서는 서로 다른 두 질문이 함께 다뤄지곤 합니다.
하나는 콘텐츠 제작에 AI를 사용하는 것을 받아들일 수 있는가입니다.
다른 하나는 AI를 사용했다는 사실을 소비자에게 공개해야 하는가입니다.

한승민·홍세인·최재서·정윤혁의 2024년 논문은 이 두 질문을 구분합니다.
연구진은 AI 생성 콘텐츠와 AI 사용 공개에 대한 소비자 인식을 콘텐츠의 가치와 형식에 따라 살펴봤습니다.

연구에서 드러난 흥미로운 지점은 AI 활용 자체에 큰 관심을 보이지 않는 경우에도, 그 사용 사실을 공개하는 일은 기본적인 요구로 받아들여질 수 있다는 점입니다.

뉴스와 영화, 글과 사진과 영상을 나누어 묻다

연구진은 콘텐츠의 가치를 실용적 가치와 쾌락적 가치로 나눴습니다.
실용적 가치는 정보를 얻고 판단하는 데 도움이 되는 가치를, 쾌락적 가치는 재미와 즐거움 같은 경험에서 얻는 가치를 뜻합니다.
이 연구에서는 뉴스를 실용적 콘텐츠의 사례로, 영화와 드라마를 쾌락적 콘텐츠의 사례로 설정했습니다.

여기에 글·사진·영상이라는 세 가지 형식을 적용해 총 여섯 가지 조합을 구성했습니다.
같은 AI 활용이라도 뉴스 기사와 영화의 이미지, 뉴스 영상과 드라마 영상에서 소비자의 반응이 다를 수 있다고 본 것입니다.

설문은 2024년 4월 28일부터 29일까지 온라인으로 진행됐습니다.
참가자는 AI 생성 콘텐츠를 실제로 경험한 71명이었습니다.
이 가운데 20대가 53명으로 74.6%를 차지했으며, 대학생과 대학원생은 41명으로 57.7%였습니다.

연구진은 각 조합에 대해 AI를 활용하는 경우와 활용하지 않는 경우, AI 사용 사실을 공개하는 경우와 공개하지 않는 경우를 각각 물었습니다.
이렇게 얻은 응답을 카노 모형으로 분석했습니다.

만족을 주는 것과 없으면 불만인 것은 같지 않습니다

카노 모형은 어떤 요소가 충족됐을 때와 충족되지 않았을 때의 반응을 함께 살펴보는 방법입니다.
단순히 좋고 싫음을 묻는 데서 나아가, 만족과 불만족이 서로 다르게 형성될 수 있다는 점에 주목합니다.

예를 들어 예상하지 못한 기능이 제공되면 기쁘지만, 없다고 해서 불만이 생기지는 않을 수 있습니다.
이런 특성은 ‘매력적 요소’로 분류됩니다.

반대로 제공되는 것이 당연해서 특별히 만족하지는 않지만, 빠지면 불만을 느끼는 특성도 있습니다.
이는 ‘당연적 요소’에 해당합니다.

유무에 따라 만족도가 크게 달라지지 않으면 ‘무관심 요소’, 오히려 해당 요소가 있을 때 부정적으로 반응하면 ‘역품질 요소’로 분류합니다.

이 구분을 적용하면 AI 활용이 소비자를 만족시키는 차별점인지, 크게 신경 쓰지 않는 제작 방식인지 살펴볼 수 있습니다.
AI 사용 공개 역시 특별히 좋은 평가를 받는 요소인지, 반드시 갖춰야 할 기본인지 구분할 수 있습니다.

뉴스 영상에서는 AI 활용에 대한 거부감이 드러났습니다

AI 생성 콘텐츠에 대한 응답은 대체로 무관심 요소로 분류됐습니다.
그러나 뉴스의 사진과 영상에서는 다른 양상이 나타났습니다.

뉴스 글에서는 무관심으로 분류된 응답이 39건으로 가장 많았습니다.
뉴스 사진에서는 무관심과 역품질 응답이 각각 29건으로 같았습니다.
뉴스 영상에서는 역품질 응답이 32건으로, 무관심 응답 30건보다 조금 많았습니다.

뉴스 영상에서 AI 활용을 부정적으로 받아들이는 반응이 가장 많았지만, 그 차이가 크지는 않았다는 점도 함께 봐야 합니다.
이 결과를 모든 소비자가 AI 뉴스 영상을 거부한다는 뜻으로 읽어서는 안 됩니다.

그럼에도 뉴스의 시각적 표현에서 부정적인 반응이 드러났다는 점은 주목할 만합니다.
사건을 전달하는 사진이나 영상은 실제 상황을 보여주는 자료로 받아들여질 수 있기 때문입니다.
연구진은 사실성과 객관성이 중요한 뉴스의 특성을 이러한 결과를 해석하는 배경으로 제시합니다.

다만 이 연구가 실제 뉴스 영상의 정확도나 허위 정보 판별 능력을 측정한 것은 아닙니다.
뉴스 제작에 AI를 사용하는 상황에 대한 소비자의 인식을 살펴본 결과입니다.

영화와 드라마에서는 무관심 반응이 가장 많았습니다

영화와 드라마에서는 글·사진·영상 모두 무관심 요소로 분류됐습니다.
제작에 AI를 활용하는지 여부가 만족과 불만족을 가르는 핵심 기준으로 나타나지 않은 것입니다.

일부 응답은 AI 활용을 매력적 요소로 평가했습니다.
그러나 가장 빈번한 분류는 세 형식 모두 무관심이었습니다.
따라서 이 결과는 소비자가 AI 영화나 드라마를 적극적으로 선호한다는 의미와는 구분해야 합니다.

뉴스와 영화·드라마의 차이는 소비자가 콘텐츠에 기대하는 가치와 연결해 해석할 수 있습니다.
현실의 사건을 이해하기 위해 보는 뉴스와 이야기의 재미를 경험하기 위해 보는 드라마에서는 제작 방식의 의미가 달라질 수 있습니다.

여기서 중요한 것은 ‘AI 콘텐츠’라는 하나의 범주만으로 소비자 반응을 설명하기 어렵다는 점입니다.
같은 기술로 만든 콘텐츠라도 무엇을 전달하고, 어떤 경험을 제공하는지에 따라 평가가 달라질 수 있습니다.

AI 사용 공개는 두 영역 모두에서 기본으로 인식됐습니다

AI 활용 자체에 대한 반응은 콘텐츠에 따라 달랐지만, 사용 사실을 공개하는 문제에서는 공통된 결과가 나왔습니다.
뉴스와 영화·드라마의 글·사진·영상 모두에서 AI 사용 공개는 당연적 요소로 분류됐습니다.

이는 AI 사용 사실을 알리는 일이 특별한 만족을 주기보다, 지켜지지 않았을 때 불만을 일으킬 수 있는 기본적인 조건으로 받아들여졌다는 뜻입니다.

공개에 대한 기대는 뉴스에서 더 강하게 나타났습니다.
연구진이 추가로 계산한 불만족계수는 뉴스에서 약 -0.72~-0.76, 영화·드라마에서 약 -0.52~-0.57이었습니다.
이 계수는 -1에 가까울수록 해당 요구가 충족되지 않았을 때의 불만족 경향이 강하다는 의미입니다.
소비자의 불만족 비율을 그대로 나타내는 수치는 아닙니다.

이 결과는 AI 활용을 받아들이는 태도와 AI 사용 사실을 알 권리에 대한 기대가 별개일 수 있음을 보여줍니다.
콘텐츠 제작 방식에 큰 관심이 없더라도, 제작자가 그 정보를 공개하는 것은 기본이라고 생각할 수 있습니다.

또한 여기서 말하는 ‘기본’은 설문에서 확인된 소비자의 기대입니다.
이 연구 자체가 법적 표시 의무의 범위를 판단한 것은 아닙니다.

AI 콘텐츠를 믿는 정도에 따라서도 반응은 달라졌습니다

연구진은 AI 생성 콘텐츠에 대한 인지된 진정성에 따라 참가자를 두 집단으로 나눠 영상에 대한 응답을 추가로 살펴봤습니다.
진정성은 AI 콘텐츠가 진정성 있고, 사실을 반영하며, 믿을 만하다고 느끼는 정도로 측정했습니다.

뉴스 영상에서는 진정성을 낮게 평가한 집단의 대표 반응이 역품질 요소였고, 높게 평가한 집단에서는 무관심 요소였습니다.
반면 영화·드라마 영상은 두 집단 모두 무관심 요소로 분류됐습니다.

이 결과는 AI 콘텐츠에 대한 기존의 신뢰와 인식이 뉴스 제작에서 AI를 받아들이는 태도와 관련될 수 있음을 시사합니다.
그러나 진정성을 높이면 거부감이 반드시 줄어든다는 인과관계를 입증한 것은 아닙니다.

소비자에게 AI 사용을 어떻게 설명할지 고민할 때, 표시의 유무뿐 아니라 AI 콘텐츠에 대한 신뢰 수준도 함께 고려할 필요가 있다는 정도로 읽는 것이 적절합니다.

작은 표본과 분류 방식의 한계를 함께 봐야 합니다

이 연구는 71명을 대상으로 한 탐색적 조사입니다.
참가자의 상당수가 20대와 대학생·대학원생이므로, 결과를 전체 소비자에게 일반화하기는 어렵습니다.
AI 콘텐츠를 경험한 사람만 참여했다는 점도 해석에 고려해야 합니다.

카노 모형의 분류는 가장 많이 나타난 응답을 기준으로 결정됩니다.
뉴스 영상처럼 역품질 32건과 무관심 30건이 비슷한 경우, 대표 분류만 보면 실제 응답의 다양성을 놓칠 수 있습니다.
‘무관심’으로 분류됐다고 해서 부정적인 응답이 없었던 것도 아닙니다.

고객만족계수에도 주의가 필요합니다.
이 계수의 계산에는 역품질 응답이 포함되지 않습니다.
따라서 AI 활용에 부정적인 응답이 많더라도 계수만 보면 그 경향이 충분히 드러나지 않을 수 있습니다.

콘텐츠의 가치 구분 역시 모든 상황에 그대로 적용되지는 않습니다.
뉴스를 즐거움 때문에 소비하거나, 영화와 드라마에서 유용한 정보를 얻는 경우도 있기 때문입니다.
뉴스와 영화·드라마의 차이를 곧바로 실용적 콘텐츠와 쾌락적 콘텐츠 전체의 차이로 확대하기는 어렵습니다.

또한 이 연구는 공개 문구의 위치나 크기, 표현 방식을 비교한 실험이 아닙니다.
어떤 표시 방식이 가장 효과적인지까지 결론 내릴 수는 없습니다.

제작 기술과 함께 소비자의 기대를 설계해야 합니다

이 논문의 의미는 AI 콘텐츠에 대한 소비자 인식을 ‘좋아한다’와 ‘싫어한다’로만 나누지 않았다는 데 있습니다.
콘텐츠의 가치와 형식을 구분하고, AI 활용과 사용 공개를 서로 다른 질문으로 살펴봤습니다.

제작자와 브랜드에는 두 가지를 함께 고민할 근거가 됩니다.
소비자가 해당 콘텐츠에서 기대하는 것은 무엇인지, 그리고 제작 과정에 대해 어떤 정보를 알아야 한다고 생각하는지입니다.

사실을 전달하는 콘텐츠에서는 정확성과 신뢰가 특히 중요한 판단 기준이 될 수 있습니다.
재미를 제공하는 콘텐츠에서는 AI 활용 자체가 소비자 평가의 중심이 아닐 수 있습니다.
그러나 두 영역 모두에서 사용 사실을 공개하는 일은 기본적인 기대와 연결됐습니다.

AI로 무엇을 만들 수 있는지를 넘어, 그 제작 방식을 소비자에게 어떻게 설명할 것인지가 콘텐츠 기획의 질문으로 남습니다.