ChatGPT가 영어로 사람들과 의사소통하는 데 탁월한 성과를 보이지만, 어떤 영어인가에 따라 차별을 보여줄 수 있다는 우려가 있다. 미국의 표준 영어가 기본인 ChatGPT 사용자 중 15%만 미국에서 온 것으로 나타났지만, 다른 나라와 지역에서도 많이 사용된다. 이러한 비표준 언어를 사용하는 사람들은 현실에서 차별을 경험할 수 있는데, 이에 대한 연구 결과를 바탕으로 ChatGPT의 행동 변화를 조사한 결과, 모델의 응답이 비표준 언어 방언에 대해 일관되고 지속적인 편향을 보인다는 것을 발견했다. 연구 결과를 통해 ChatGPT가 언어적 차별을 증폭시킬 수 있다는 우려가 제기되었다. 또한, 모델의 응답이 특정 방언에 대해 일관된 편향을 보인다는 결과도 나타났는데, 이는 언어 모델의 사용이 글로벌로 증가함에 따라 소수 언어 공동체에 해를 끼칠 수 있다는 경고를 내포하고 있다.

<The Berkeley Artificial Intelligence Research 뉴스 본문 전체읽기>