프리랜서들, 민감한 AI 테스트 작업 참여
최근 유출된 Outlier와 Scale AI의 교육 문서에 따르면 프리랜서들은 자살, 학대, 테러와 같은 민감하고 유해한 주제를 포함하는 프롬프트를 작성하는 대가로 보수를 받고 있는 것으로 드러났습니다. 분명한 가이드라인 아래 프리랜서들은 창의적인 글쓰기를 요구받으며, 이러한 작업은 AI 시스템의 한계를 테스트하고 유해 콘텐츠를 식별하기 위한 절차로 진행됩니다.
이 과정은 'AI 레드팀 활동'으로 알려졌으며, 참가자들은 시간당 최대 55달러를 받는 것으로 알려져 있습니다. 프리랜서들은 AI 반응의 경계를 규정하기 위해 무해한 프롬프트와 해로운 프롬프트를 모두 작성해야 합니다. 예를 들어, 폭력이나 증오 발언, 자해 유도 등의 내용을 담은 프롬프트가 포함될 수 있습니다.
민감한 주제 속 가이드라인의 딜레마
교육 자료에서는 프리랜서들이 어떤 프롬프트가 유해한지에 대한 개인적인 판단을 하지 말 것을 명시하고 있습니다. 대신, AI 안전 필터를 우회할 수 있는 가능성을 실험하기 위해 허구적 시나리오 속에 해로운 요청을 삽입하는 방식으로 작업하도록 유도됩니다.
특히, 아동 성 학대를 다루는 것은 엄격히 금지되지만 다른 형태의 가정 폭력이나 혐오 발언은 다룰 수 있다는 특이한 지침이 포함되어 있습니다. 작업자의 익명성이 중요시되지만, 반복적으로 민감한 콘텐츠를 접하면서 정신적 영향을 받을 가능성도 제기됩니다. 그러나 일부 프리랜서들은 사회적으로 받아들여지기 힘든 생각을 표현하는 과정에서 이 작업이 오히려 치료적인 경험이었다고 말하기도 했습니다.
정서적 지원과 프리랜서 권리 문제
프리랜서들이 직면하는 감정적 부담을 덜어주기 위해 복지 지원이 제공됩니다. 그 중에는 감정적 어려움을 다룰 수 있도록 돕는 특별 세션도 포함되어 있습니다. 하지만 민감한 주제에 대한 작업 자체를 거부할 수 있는 선택권은 없는 것으로 전해져 논란이 되고 있습니다.
한편, Scale AI는 노동자 처우에 대한 비판과 함께 미국 노동부의 조사와 몇 가지 소송에 직면해 있습니다. 그럼에도 불구하고 회사는 높은 가치 평가를 추구하며 성장 가능성을 강조하는 전략을 이어가고 있습니다. 이러한 상황은 AI 관련 기술 발전 속에서 노동 조건과 윤리적 문제에 대한 경각심을 높이고 있습니다.
출처 : BUSINESSINSIDER.com