AI 챗봇의 독성 반응 방지 방법
사용자는 ChatGPT에게 컴퓨터 프로그램을 작성하거나 기사를 요약하도록 요청할 수 있으며, AI 챗봇은 유용한 코드를 생성하거나 설득력 있는 시놉시스를 작성할 수 있을 것입니다. 그러나 누군가가 폭탄을 만들기 위한 지침을 요청할 수 있으며, 챗봇도 그러한 지침을 제공할 수 있을 것입니다. 이것과 다른 안전 문제들을 예방하기 위해, 대형 언어 모델을 만드는 회사들은 일반적으로 레드-팀(red-teaming)이라고 불리는 프로세스를 사용하여 그것들을 …