Substack은 독자가 콘텐츠가 인간에 의해 작성된 것인지 AI에 의해 생성되었는지 파악하는 데 도움이 되는 새로운 도구를 도입하고 있습니다. 화요일 블로그 게시물을 통해 발표된 자체 출판 플랫폼의 새로운 기능은 AI 탐지 도구인 Pangram을 기반으로 하며 Substack 게시물, 메모, 답글 및 댓글에서 사용할 수 있습니다.

Substack의 공동 창립자이자 CEO인 Chris Best는 “AI로 만든 모든 것이 잘못된 것은 아니며, 모든 것이 AI로 만들어진 것은 아닙니다”라고 말했습니다. “문제는 독자의 기대와 현실 사이에 불일치가 있을 때, 특히 인간의 생각이 전혀 없는 것에 무의식적으로 관심을 쏟을 때 더욱 그렇습니다.”

Substack의 AI 감지 도구는 현재 웹과 iOS 앱에서 사용할 수 있으며 Android도 뒤따를 예정입니다. AI 기여를 위해 하위 스택 콘텐츠를 스캔하려면 “…” 미트볼 메뉴를 클릭하거나 탭한 다음 “AI 텍스트 스캔”을 선택하세요. 그러면 Pangram이 결정한 텍스트 중 AI 생성, AI 지원 또는 인간의 비율을 알려주는 팝업이 나타납니다.

Substack의 새로운 AI 감지 기능에는 몇 가지 제한 사항이 있습니다. 특히 100단어보다 긴 하위 스택 텍스트 구절과 7월 21일 오전 8시 30분(태평양 표준시)/오전 11시 30분 이후에 게시된 텍스트에만 작동합니다. 이 전에 게시된 하위 스택 콘텐츠를 스캔하려고 하면 AI 탐지에 적합하지 않다는 팝업이 표시됩니다.

100단어 미만의 문장을 확인하려고 하면 정확한 AI 감지를 위한 텍스트가 충분하지 않다는 팝업이 표시됩니다. Best 자신의 게시물에 대한 팝업에는 다음과 같은 추가 메시지도 제공됩니다. “나는 아직 이 모든 것을 파악하고 있습니다. (그동안 이 단어는 좋든 나쁘든 내 것입니다.)”

Pengram은 독자가 요청할 경우에만 AI 저작자가 있는지 텍스트를 스캔합니다. 따라서 주도권을 잡고 자신이 읽고 있는 내용의 출처를 최선을 다해 조사하는 것은 사용자의 몫입니다. 예를 들어, 인간이 게시물을 작성하기 전에 AI를 사용하여 조사를 수행했는지 여부는 도구가 감지할 수 없다는 점에 유의하세요.

Substack의 AI 감지 도구는 작성자를 위한 몇 가지 새로운 기능도 추가합니다. 이제 작성자는 콘텐츠 작성 방법을 설명하는 설명을 추가할 수 있으며, 이는 독자가 게시물에서 AI 감지 도구를 사용할 때 표시됩니다. 작성자는 초안에서 Pengram의 AI 감지 도구를 실행하고 내용이 잘못 분류되었다고 생각되면 보고서를 제출할 수 있습니다. 흥미롭게도 작성자는 Pengram의 감지가 올바른지 여부에 관계없이 콘텐츠에 대한 AI 감지를 완전히 비활성화하여 플래그를 직접 제거할 수도 있습니다.

크레딧: 서브스택

Pangram 자체는 AI를 사용하여 AI 생성 텍스트를 감지합니다. 그러나 생성적 AI 대신 인간과 AI 생성 텍스트를 인식하고 구별하도록 훈련된 분류 신경망 모델을 배포합니다. 회사는 인간이 작성한 텍스트의 알고리즘 데이터 세트가 생성 AI가 인터넷에서 널리 사용되기 전인 2021년 이전에 게시된 소스에서 수집되어 AI 생성 텍스트가 몰래 들어가지 않도록 보장한다고 밝혔습니다.

Best는 Substack이 사용자의 관심과 피드백에 따라 앞으로 더 많은 AI 중심 기능을 추가할 방안을 모색하고 있다고 밝혔습니다. 여기에는 사용자가 Substack이 권장하는 콘텐츠에 대한 기본 설정을 지정할 수 있도록 허용하는 것이 포함되며, 이는 결국 AI 생성 콘텐츠를 완전히 필터링하는 옵션을 볼 수 있음을 시사합니다.

디지털 마케팅 회사인 Graphite의 최근 연구에 따르면 주로 AI로 생성된 온라인 기사의 수가 이제 인간이 작성한 수와 동일하다는 사실이 밝혀졌습니다. 지난 몇 년 동안 AI를 사용하여 기사를 생성한 여러 출판물이 요청되었으며 그 중 일부에는 오류가 있었습니다. 어떤 경우에는 이러한 AI 생성 기사가 가짜 AI 생성 작가 또는 해당 출판물의 “직원”이 작성한 것으로 간주되었습니다.