AI-Hub

데이터 변경이력

데이터 히스토리

소개

2020년 한국어 SNS데이터와 2021년 주제별 텍스트 일상 대화 데이터의 유형을 최소 1개에서 최대 3개로 멀티라벨링 하여 한국어 일상대화 AI 모델의 품질 향상을 위한 학습용 데이터 셋 제공

구축목적

- 기존 구축 데이터의 품질 및 항목 개선
- 한국어 대화 공공데이터 활용성 증대

1. 데이터 구축 규모
  - 원천데이터(json) : 1,897,170건
  - 라벨링데이터(json) : 1,897,170건

2. 데이터 분포
  o 대화 주제 분류

* 전체 라벨링데이터 파일 수는 1,897,170개이나 멀티 토픽으로 구성되어 있어 각 카테고리 건수의 합은 전체 라벨링 파일 수와 상이함

저작도구 설명서 및 저작도구 다운로드

AI 모델 상세 설명서 다운로드

 오픈 소스 AI 모델 사용(Klue-RoBERTa)
● 최근 한국어 NLP 모델에 대해 평가할 수 있는 KLUE 데이터셋이 연구 및 배포됨, 기준모델로서 Klue-RoBERTa 또한 같이 오픈되었으며, 누구나 제한 없이 사용할 수 있도록 저작권이 존중됨(https://github.com/KLUE-benchmark/KLUE)
● Klue-RoBERTa는 다른 기존의 한국어 PLM의 Baseline을 능가하는 성능을 보이고 있으며, 본 과제의 인공지능 데이터 활용 모델을 개발하는데 쓰일 예정임  
사전학습 언어모델(Pretrained Language Model) 기반의 대화 응답 선택 모델
● 자연어 처리 태스크의 거의 모든 분야에서 SOTA 성능을 발휘하고 있는 사전학습 언어모델을 활용하여 대화 응답 태스크에 최적화된 인공지능 모델을 개발
● 오토 인코딩 학습의 한계를 극복하면서, 단일 방향 정보만 이용하여 학습이 이루어지는 오토 리그레시브(Auto Regressive, AR) 모델의 문제점을 보완하는 Transformer 구조의 모델에 대한 추가 연구를 통해 대화 응답 태스크에 최고의 성능을 발휘하는 모델 개발

[그림] 사전학습 언어모델을 사용한 대화 응답 모델 파인튜닝

 대화 응답 선택 모델 구현 및 성능 평가
● 모델 성능 평가에는 응답 후보군에서 정답을 찾는데 사용되는 응답 모델 메트릭을 활용하여 수행
● 응답 모델 메트릭은 10개의 답변 후보(1개의 Positive, 9개의 Negative)에 대한 모델의 첫 번째 예측 값의 Recall을 측정하는 수식임

● 2depth 12개 주제분류에 대해 응답을 예측하고, Recall 성능을 예측
● 학습 데이터는 Train, Validation, Test Set으로 각각 8:1:1로 스플릿되어 관리되고, 그중 Test Set 은 테스트용 서버에서 관리하고, 모델 테스트 담당자의 home directory에서 관리하므로 모델 개발 담당자는 Test Set에 접근할 수 없음

설명서 및 활용가이드 다운로드

o 데이터 포맷
- 한국어 대화 연구 및 일상대화 생성 모델링에 사용하기 적합하도록 JSON 형태로 가공하여 제공하며, JSON 형식으로 인코딩한 한국어 대화 요약 데이터의 예는 아래와 같음

{  
  "header": {
    "dialogueInfo": {
      "dialogueID": "84de5ca4-63de-57f5-be5a-8dad5ca91ab3",
      "numberOfParticipants": 2,
      "numberOfUtterances": 22,
      "numberOfTurns": 8,
      "source": "한국어SNS",
      "single_topic": "개인 및 관계",
      "multi_topic": [
                   "안부/일상_일상공유_일상경험",
                   "생활/행사_특별생활_사적행사",
                   "안부/일상_일상공유_생각/감정/성향“
        ]   
    },
    "participantsInfo": [
      {
        "participantID": "P01",
        "gender": "여성",
        "age": "20대 미만",
        "residentialProvince": "서울특별시"
      },
      {
        "participantID": "P02",
        "gender": "남성",
        "age": "20대",
        "residentialProvince": "서울특별시"
      }
    ]
  },
  "body": [
    {
      "utteranceID": "U1",
      "turnID": "T1",
      "participantID": "P01",
      "date": "2018-05-08",
      "time": "19:54:00",
      "utterance": "할머니집 가는중에"
    },
    {
      "utteranceID": "U2",
      "turnID": "T1",
      "participantID": "P01",
      "date": "2018-05-08",
      "time": "19:55:00",
      "utterance": "내가 아빠한테 금욜날 에버랜드 데려다닿라거 했거든여"
    },
    {
      "utteranceID": "U3",
      "turnID": "T1",
      "participantID": "P01",
      "date": "2018-05-08",
      "time": "19:55:00",
      "utterance": "그래서 아빠가 엄마도 같이가자고 했는데"
    },
    {
      "utteranceID": "U4",
      "turnID": "T1",
"participantID": "P01",
      "date": "2018-05-08",
      "time": "19:55:00",
      "utterance": "금요일에 동생 학교가야해서 안돼요"
    },
    {
      "utteranceID": "U5",
      "turnID": "T1",
      "participantID": "P01",
      "date": "2018-05-08",
      "time": "19:55:00",
      "utterance": "그랬는데 동생이"
    },
    {
      "utteranceID": "U6",
      "turnID": "T1",
      "participantID": "P01",
      "date": "2018-05-08",
      "time": "19:55:00",
      "utterance": "나 이번주 금요일에 집에 없는데"
    },
    {
      "utteranceID": "U7",
      "turnID": "T1",
      "participantID": "P01",
      "date": "2018-05-08",
      "time": "19:55:00",
      "utterance": "이러는거에요ㅋㅋㅋㅋㅋㅋㅋㅋ"
    },
    ...
  ]
}

o 데이터 구성
  - ‘한국어 sns’데이터 구성

※ 증축하는 주제별 텍스트 일상 대화 데이터는 거주지역이 명기되어 있지 않고, 이를 임의로 지정할 수 없어 공란 처리 함

o 어노테이션 포맷

o 실제 예시

데이터
{

"header": {

"dialogueInfo": {

"dialogueID": "3d8a4d5d-680b-53de-b338-23259e46b7d6",

"numberOfParticipants": 2,

"numberOfUtterances": 15,

"numberOfTurns": 7,

"source": "한국어SNS",

"single_topic": "여가 생활",

"multi_topic": [

"사람/관계_관계_연인",

"문화/건강_취미/여가_미디어",

"문화/건강_취미/여가_인물"

]

},

"body": [

{

"utteranceID": "U01",

"turnID": "T01",

"participantID": "P01",

"date": "2016-10-29",

"time": "18:52:00",

"utterance": "#@시스템#사진#"

},

{

"utteranceID": "U02",

"turnID": "T01",

"participantID": "P01",

"date": "2016-10-29",

"time": "18:52:00",

"utterance": "오빠 나너무 아파"

},

{

"utteranceID": "U03",

"turnID": "T02",

"participantID": "P02",

"date": "2016-10-29",

"time": "18:53:00",

"utterance": "니네오빠가 더 아파보인다"

},

........

{

"utteranceID": "U14",

"turnID": "T07",

"participantID": "P01",

"date": "2016-10-29",

"time": "18:55:00",

"utterance": "무카이오사무같은놈들이 우익이디"

},

{

"utteranceID": "U15",

"turnID": "T07",

"participantID": "P01",

"date": "2016-10-29",

"time": "18:55:00",

"utterance": "오카다우익치"

}

]

}

데이터셋 구축 담당자

수행기관(주관) : ㈜와이즈넛

수행기관(참여)

데이터 관련 문의처