머신러닝과 가짜 뉴스


Machine learning can’t flag false news, new studies show
머신러닝은 기계가 만들어 낸(machine-generated) 글을 판별하는 것은 할 수 있으나 그것이 진짜인지 가짜인지 구분하는 것은 어렵다는 내용

연구원들에 따르면 문제는 데이터베이스가 인간의 편견으로 가득 차 있다는 것입니다. FEVER(Fact Extraction and Verification, 진실인 진술문이 담긴 데이터베이스)를 만든 사람들은 자신의 허위 진술을 부정적 진술로 묘사하고 실제 진술을 긍정적 진술로 쓰는 경향이있었습니다. 따라서 컴퓨터는 부정적 진술을 허위로 문장을 평가하는 법을 배웠습니다. eng

The problem, say the researchers, is that the database is filled with human bias. The people who created FEVER tended to write their false entries as negative statements and their true statements as positive statements — so the computers learned to rate sentences with negative statements as false.

새로운 결과는 아니지만 가짜 뉴스에 대해서는 무엇이 진짜인지 학습시킬만한 데이터를 만드는 것 조차 쉽지 않은 일이다.