안녕하세요 sillon 입니다.
블로그 하면서 처음으로 인사를 드리는 거 같네요
제가 오늘은 KorQuAD 1.0 데이터셋을 그냥 다른 곳에 활용하기 편한 형태로 CSV파일로 변환해 왔습니다..
KorQuAD_train.json 파일과 KorQuAD_dev.json 파일 각각에 있는 context 와 answer, question 을 추출하여 csv파일로 변환했습니다.
아직 미숙한 부분이 많고, 그냥 뚝딱! json 파일을 csv 파일로 변경할 수 있는 분들도 계시겠지만,
나름 필요한 사람들에게 도움이 될 수 있을 수도 있으니 자료 올립니다.
KorQuAD_train_context.csv
KorQuAD_train_QA.csv
해당 질문에 대한 원래 문장이 있던 것은 제일 오른쪽에 있는 context_index에서 찾을 수 있습니다.
context_index: 해당 질문의 출처 context (context 인덱스 번호)
text: 해당 질문에 대한 답
asnwer_start: 해당 문맥에서 답이 시작되는 지점
https://github.com/Kangsuyeon01/KorQuAD-study/tree/main/koquad_dataset
'공부정리 > NLP' 카테고리의 다른 글
[NLP] 자연어 처리를 위한 데이터 셋 모음 (0) | 2022.10.14 |
---|---|
[NLP] KorQuAD dataset 기반 챗봇 만들기 (0) | 2022.10.13 |
[NLP] 한국어 요약은 textrank (0) | 2022.10.11 |
[NLP] 인공지능이 질문과 답을 직접 추출한다 (0) | 2022.10.11 |
[NLP] Word2Vec 연습 (0) | 2022.10.07 |