내일의 SNS 업계 소식을 놓치지 마세요

Elon Musk의 Twitter 인수에 대한 주요 우려 사항 중 하나는 증오 발언, 잘못된 정보 및 기타 관련 요소에 대한 과거 규정의 완화에 대한 인식이었습니다.

개인적으로 불쾌한 것이든 아니든 모든 종류의 발언을 허용하는 것을 강력히 지지하는 머스크는 이전에 트위터 경영진이 금지했던 수만 개의 계정 복원을 감독했으며, 코로나19의 잘못된 정보를 억제하기 위해 고안된 제한을 제거하고 경고 라벨을 취소했습니다. 중국과 러시아 국영 미디어 콘텐츠에 대해 자신의 1억 3400만 팔로워에게 다양한 음모론을 홍보하고 있습니다.

이와 같은 변화로 인해 많은 트위터 광고주가 증오심 표현 및 공격적인 자료와의 잠재적 연관성에 대한 우려로 인해 앱을 기피하는 것으로 알려졌습니다. 그러나 머스크와 그의 팀이 주장하는 것처럼 실제로 증오심 표현은 Twitter 2.0에서 증가하고 있습니다. , 앱에서 이러한 것을 감지하고 제한하는 업데이트된 프로세스로 인해 실제로 감소합니까?

이것이 머스크가 트위터 스페이스를 통해 생중계한 이번 주 BBC와의 인터뷰에서 나온 논쟁의 핵심 포인트였습니다. 전반적으로 거의 2시간에 가까운 인터뷰는 새로운 통찰력을 제공하지 못했습니다. 머스크는 앱에서 자신의 급한 정리 해고와 회사를 구하기 위해 비용을 절감해야 할 필요성에 대해 논의했으며 머스크는 자신의 개가 이제 트위터의 CEO라고 주장했습니다. 트위터는 몇 달 안에 손익분기점을 넘을 수 있다고 말했습니다.

그러나 증오 발언과 그것이 광고주에게 미치는 영향은 머스크가 이 교환을 공유하여 이 요소에 대한 미디어 편견으로 인식하는 것을 강조하면서 분명한 골칫거리였습니다.

물론, 한 사용자의 개인적인 경험은 잠재적인 문제의 범위를 나타내지는 않습니다. 하지만 언급한 바와 같이 Musk와 그의 팀은 그가 앱을 인수한 이후로 증오심 표현이 실제로 훨씬 줄어들었다고 주장합니다.

그게 사실일까요? 다시 말하지만, 플랫폼의 증오심 표현 규칙을 위반하여 폐쇄된 많은 이전에 금지된 계정이 복원된 후 이 요소가 줄어들 수 없는 것 같습니다. 그렇다면 Musk and Co.는 어떻게 이러한 통계를 내놓았으며, 혐오 콘텐츠의 증가와 관련하여 BBC에서 언급한 연구는 무엇입니까?

먼저, 외부 연구에 따르면 증오심 표현이 증가했다고 합니다. BBC 인터뷰에서 언급했듯이 ISD(Institute for Strategic Dialogue)는 지난 달 연구를 발표 했는데 머스크가 앱을 인수한 후 3개월 동안 반유대주의적 트윗의 양이 두 배 이상 증가했음을 보여줍니다 .

이것은 Twitter가 공유한 것과는 상당히 다른 차트입니다. 여기서 그 차이는 무엇이며 ISD의 데이터는 왜 Twitter의 자체 수치가 하락을 반영하는 반면에 지속적인 상승을 보이는 것입니까?

어떤 면에서 이 차트의 가장 큰 급증은 트위터의 데이터가 가리키는 것과 동일한 사건을 반영한다고 말할 수 있습니다. 앱에서 비방을 증폭시켜 머스크의 리더십을 깎아내리도록 고안된 봇 공격의 증가라고 주장합니다.

실제로 ISD 보고서에 따르면 다음과 같습니다.

“우리는 또한 Musk의 인수와 관련이 있는 증오 발언을 게시하는 새 계정 생성이 급증한 것을 확인했습니다. 10월 27일에서 11월 6일 사이에 적어도 하나의 반유대적 트윗을 게시한 총 3,855개의 계정이 생성되었습니다. 이는 인수 전 같은 기간 동안 잠재적으로 혐오스러운 계정 생성 비율의 3배 이상을 나타냅니다.”

이는 Twitter의 봇 탐지와 일치할 가능성이 높으며 ISD는 Twitter가 현재 더 많은 콘텐츠를 제거하고 있음을 지적합니다.

“트위터가 제거한 반유대적 콘텐츠의 비율은 인수 이후 기간 동안 증가한 것으로 보이며 반유대적 트윗의 12%는 인수 전 6%와 비교하여 나중에 수집할 수 없습니다. 그러나 이러한 제거율의 잠재적인 증가는 전반적인 반유대주의 콘텐츠의 증가와 보조를 맞추지 못했으며, 그 결과 머스크가 인수하기 전보다 플랫폼에서 증오 발언에 더 쉽게 접근할 수 있게 되었습니다. ”

ISD의 조사 결과는 디지털 혐오 대응 센터(The Center for Countering Digital Hate) 의 유사한 데이터와도 관련이 있습니다 . 이 자료에서는 머스크가 앱을 인수한 직후 흑인과 트랜스젠더에 대한 비방이 크게 증가했으며 혐오 발언에 대한 참여도 증가했다는 사실을 발견했습니다.

“비방이 포함된 게시물에 대한 좋아요, 답글 및 리트윗의 평균 수는 머스크의 트위터 2.0 으로 이어지는 몇 주 동안 13.3개였습니다 . 보고서에 따르면 인수 이후 혐오 콘텐츠에 대한 평균 참여가 49.5회로 급증했습니다. ”

그러나 이러한 발견은 트위터가 인정하는 변화의 초기 단계에 있었습니다. 그렇다면 문제는 그 이후로 상황이 바뀌었느냐는 것입니다. 트위터가 표현에 대한 제한을 줄이기 위해 노력한다면 어떻게 바뀌었을까요?

Twitter에서 공개한 데이터는 몇 가지 추가 컨텍스트를 제공합니다. 지난 달 트위터는 증오 발언을 억제하기 위한 노력과 그 수치를 어떻게 계산하는지에 대해 더 많은 것을 밝힌 Sprinklr의 새로운 통찰력을 발표했습니다.

트위터에 따르면:

“Sprinklr는 사용의 미묘한 맥락에서 비방을 평가하여 증오심 표현을 정의합니다. 지금까지 트위터는 비방 사용의 잠재적인 독성에 대해 더 폭넓은 관점을 취했습니다. 증오심 표현을 수량화하기 위해 Twitter 및 Sprinklr는 가장 일반적인 영어 비방 300개로 시작합니다. 우리는 그들이 얼마나 자주 트윗되는지뿐만 아니라 얼마나 자주 보이는지(노출)도 계산합니다. 우리 모델은 혐오 발언에 해당할 가능성이 있는 '독성'에 대한 비방 트윗을 평가합니다.”

이 방법론에 따르면 트윗을 통한 대부분의 욕설 사용은 실제로 증오심 표현이 아니며 특정 용어는 단순한 데이터 집계보다 평가에서 더 많은 뉘앙스가 필요한 방식으로 특정 커뮤니티 내에서 사용됩니다. 예를 들어 흑인 커뮤니티에서 사용되는 용어는 모든 면에서 혐오 발언으로 간주되지 않을 수 있지만 키워드 추적을 사용하는 경우 그러한 것으로 간주됩니다.

Twitter는 다른 사람들이 고려하지 않는 경우 추적 프로세스가 이러한 고려 사항에 영향을 미치며 그러한 용어의 사용이 혐오스러운 방식으로 사용되는 경우 Twitter는 트윗을 제거하거나 도달 범위를 제한하는 조치를 취한다고 주장합니다.

“Sprinklr의 분석에 따르면 증오심 표현은 무해한 비방 트윗보다 트윗당 노출수가 67% 적습니다. 완벽한 모델은 없으며 이 작업은 결코 완료되지 않습니다. 우리는 투명성을 높이는 동시에 다른 언어, 새로운 용어 및 보다 정확한 방법론을 통합하여 증오심 표현에 맞서 싸울 것입니다.”

본질적으로 Twitter는 이러한 외부 연구에 따라 잠재적인 비방에 대한 모든 언급을 세는 것은 그러한 영향을 측정하는 효과적인 수단이 아니라고 말합니다. 그들이 얻는 범위.

이러한 고려 사항을 평가에 반영하지 않으면 정확할 수 없습니다. Twitter의 데이터가 제3자 분석을 통한 결과와 크게 다른 이유를 설명할 수 있습니다.

그 맞습니까? 전체 비교 데이터가 없으면 말하기 어렵지만 확장된 평가 프로세스는 의미가 있습니다. 이는 이러한 용어에 대한 이진 분석에 적어도 어느 정도 결함이 있음을 의미할 수 있습니다.

그럼에도 불구하고 Twitter는 독일에서 지역 규정에 따라 적시에 증오심 표현을 제거하지 못한 것에 대해 수십억 달러의 벌금을 물고 있으며, 이 경우 독일 당국이 정확히 어떤 구체적인 예를 제공하는지 보는 것은 흥미로울 것입니다.

따라서 여전히 일부 우려 사항이 있는 것 같습니다. 하지만 트위터가 언급하는 확장된 맥락과 증오심 표현을 제한하기 위한 노력의 증가는 어느 정도 의미가 있습니다.

시간이 지남에 따라 이에 대한 더 많은 데이터를 얻게 되겠지만 전체적인 그림은 일부 결과가 제안하는 것보다 더 미묘한 그림을 제시합니다.