KLUE: Korean Language Understanding Evaluation
Paper
• 2105.09680 • Published
• 1
title stringlengths 1 57 | context stringlengths 512 2.06k | question stringlengths 8 78 | id stringlengths 12 12 | answers dict | document_id int64 4.57k 60.6k | hard_negative_text sequence | hard_negative_document_id sequence | hard_negative_title sequence |
|---|---|---|---|---|---|---|---|---|
미국 상원 | 미국 상의원 또는 미국 상원(United States Senate)은 양원제인 미국 의회의 상원이다.\n\n미국 부통령이 상원의장이 된다. 각 주당 2명의 상원의원이 선출되어 100명의 상원의원으로 구성되어 있다. 임기는 6년이며, 2년마다 50개주 중 1/3씩 상원의원을 새로 선출하여 연방에 보낸다.\n\n미국 상원은 미국 하원과는 다르게 미국 대통령을 수반으로 하는 미국 연방 행정부에 각종 동의를 하는 기관이다. 하원이 세금과 경제에 대한 권한, 대통령을 포함한 대다수의 공무원을 파면할 권한을 갖고 있는 국민을 대표하는 기관인 반면 상원은 미국의 주를 대표한다. 즉 캘리포니아주, 일리노이주 같이 주 정부와 주 의회를 대표하는 기관이다. 그로 인하여 군대의 파병, 관료의 임명에 대한 동의, 외국 조약에 대한 승인 등 신속을 요하는 권한은 모두 상원에게만 있다. 그리고 하원에 대한 견제 역할(하원의 법안을 거부할 권한 등)을 담당한다. 2년의 임기로 인하여 급진적일 수밖에 없는 하원은 지나치게 급진적인 법안을 만들기 쉽다. 대표적인 예로 건강보험 개혁 당시 하원이 미국 연방 행정부에게 퍼블릭 옵션(공공건강보험기관)의 조항이 있는 반면 상원의 경우 하원안이 지나치게 세금이 많이 든다는 이유로 퍼블릭 옵션 조항을 제외하고 비영리건강보험기관이나 보험회사가 담당하도록 한 것이다. 이 경우처럼 상원은 하원이나 내각책임제가 빠지기 쉬운 국가들의 국회처럼 걸핏하면 발생하는 의회의 비정상적인 사태를 방지하는 기관이다. 상원은 급박한 처리사항의 경우가 아니면 법안을 먼저 내는 경우가 드물고 하원이 만든 법안을 수정하여 다시 하원에 되돌려보낸다. 이러한 방식으로 단원제가 빠지기 쉬운 함정을 미리 방지하는 것이다.날짜=2017-02-05 | 대통령을 포함한 미국의 행정부 견제권을 갖는 국가 기관은? | mrc-1-000067 | {
"answer_start": [
235
],
"text": [
"하원"
]
} | 18,293 | [
"내각(內閣, cabinet)은 행정부의 주요 각료들로 구성되는 국가의 주요기관이다.\n\n의원내각제에서 내각은 수상과 여러 장관으로 조직되는 합의체로, 국가의 행정권을 담당하고 국회에 대한 연대책임을 갖는다. 의원내각제에 있어서 내각은 국가행정의 최고기관인 한편 국민이 구성시키는 의회에 의하여 철저히 견제되어 의회민주주의 체제를 이룬다.\n\n그 직접적 유래는 영국에서 국왕의 정치를 자문하던 추밀원에서 찾을 수 있다. 특히 내각은 추밀원의 일개 회의에서 시작하였다가 권한이 집중되어 분리된 기관으로, 이후 국왕의 실권이 사라지고 일명 웨스트민스터 시스템으로 불... | [
10598,
23901,
56145,
2283,
24320,
20890,
41828,
55722,
43026,
1281,
36404,
1752,
6306,
55724,
17791,
13391,
3345,
54884,
60556,
21210
] | [
"내각",
"미국의 대외 관계",
"일본국 헌법 제41조",
"정부 형태",
"국가안전보장회의",
"미국 합동참모본부",
"미국 국가항공자문위원회",
"러시아의 정치",
"국가판무관부",
"의회",
"미국 관리예산실",
"통일주체국민회의",
"통일주체국민회의",
"러시아의 정치",
"직권남용죄",
"이명박 정부",
"나치 독일",
"스티븐 비건",
"주미국 중국 대사관",
"잭슨 민주주의"
] |
인사조직관리 | '근대적 경영학' 또는 '고전적 경영학'에서 현대적 경영학으로 전환되는 시기는 1950년대이다. 2차 세계대전을 마치고, 6.25전쟁의 시기로 유럽은 전후 재건에 집중하고, 유럽 제국주의의 식민지가 독립하여 아프리카, 아시아, 아메리카 대륙에서 신생국가가 형성되는 시기였고, 미국은 전쟁 이후 경제적 변화에 기업이 적응을 해야 하던 시기였다. 특히 1954년 피터 드러커의 저서 《경영의 실제》는 현대적 경영의 기준을 제시하여서, 기존 근대적 인사조직관리를 넘어선 현대적 인사조직관리의 전환점이 된다. 드러커는 경영자의 역할을 강조하며 경영이 현시대 최고의 예술이자 과학이라고 주장하였고 , 이 주장은 21세기 인사조직관리의 역할을 자리매김했다.\n\n현대적 인사조직관리와 근대 인사조직관리의 가장 큰 차이는 통합이다. 19세기의 영향을 받던 근대적 경영학(고전적 경영)의 흐름은 기능을 강조하였지만, 1950년대 이후의 현대 경영학은 통합을 강조하였다. 기능이 분화된 '기계적인 기업조직' 이해에서 다양한 기능을 인사조직관리의 목적, 경영의 목적을 위해서 다양한 분야를 통합하여 '유기적 기업 조직' 이해로 전환되었다. 이 통합적 접근방식은 과정, 시스템, 상황을 중심으로 하는 인사조직관리 방식을 형성했다. | 현대적 인사조직관리의 시발점이 된 책은? | mrc-0-004397 | {
"answer_start": [
212
],
"text": [
"《경영의 실제》"
]
} | 51,638 | [
"인류 역사에서 무리를 지어 살기 시작하면서 조직이 시작되었다. 인류를 위한 다양한 조직이 있었으며, 그 중에서도 가장 강력한 조직으로 ‘군사조직’과 ‘종교조직’이 있다. 이 두 조직은 지금도 현대 경영에서 참조하는 영역이다. 현대 기업의 ‘경영전략’은 군사조직의 전략 이론에서 영향을 받아 발전한 것이고, ‘목표에 의한 관리’ 역시 기독교 수도원의 성직자의 자기 관리에서 발전한 것이다. 기업이 사용하는 ‘미션선언’ 역시 기독교의 신앙고백과 신조에서 발전한 형태이다. 신생 조직인 기업조직은 인류와 함께 한 조직에서 끊임 없이 배우고, 흡수해 왔으며, 독자적인 ... | [
51632,
51639,
51642,
51635,
51637,
51641,
51633,
51628,
51630,
51640,
51627,
51624,
51631,
51636,
40252,
51634,
33353,
51629,
23266,
28157
] | [
"인사조직관리",
"인사조직관리",
"인사조직관리",
"인사조직관리",
"인사조직관리",
"인사조직관리",
"인사조직관리",
"경영관리",
"인사조직관리",
"인사조직관리",
"경영관리",
"경영관리",
"인사조직관리",
"인사조직관리",
"스포츠 의학",
"인사조직관리",
"대한민국 국가안전기획부",
"경영관리",
"겐리흐 야고다",
"녹색서"
] |
강희제 | 강희제는 강화된 황권으로 거의 황제 중심의 독단적으로 나라를 이끌어 갔기에 자칫 전제 독재의 가능성이 보일 수도 있었으나, 스스로 황권을 조절하고 정치의 일부는 재상들이나 대신들과 의논하였으며 당시 궁핍하게 살고 있는 한족들의 사정을 잘 알고 있던 한족 대신들의 의견을 수용하여 정책을 실행하고 선정을 베풀었다. 프랑스의 예수회 선교사 부베는 루이 14세에게 다음과 같이 보고하였다. \n강희제는 세상에서 가장 부유한 군주입니다. 그럼에도 황제인 그의 생활용품들은 사치스러움과 화려함과는 거리가 멀다 못해 소박하기 그지없습니다. 역대 제왕들 가운데 전례없는 일입니다.\n강희제 스스로도 자신이 직접 쓴 《근검록》에서 다음과 같이 쓰고 있다\n모든 비용은 백성들의 피땀으로 얻어진 것이니 주인된 황제로서 절제하고 절제함은 당연한 것이 아닌가\n\n이런 강희제의 인자한 정치는 한족이 만주족의 청나라를 지지하게 만드는 데에 크게 일조하였다. 1717년(강희 56년) 강희제는 〈고별상유〉(告別上諭), 즉 마지막으로 백성들에게 바치는 글을 남겼는데 강희제는 “한 가지 일에 부지런하지 않으면 온 천하에 근심을 끼치고, 한 순간에 부지런하지 않으면 천추만대에 우환거리를 남긴다.”라고 역설하였다. 또한 “제왕이 천하를 다스림에 능력이 있는 자를 가까이 두고, 백성들의 세금을 낮추어 주어야 하며, 백성들의 마음을 하나로 묶고, 위태로움이 생기기 전에 나라를 보호하며, 혼란이 있기 전에 이를 먼저 파악하여 잘 다스리고, 관대하고 엄격함의 조화를 이루어 나라를 위한 계책을 도모해야 한다.”라고 후대의 황제에게도 이를 훈계하였다. 강희제는 황제로서 자식과 같은 백성들에게 이런 당부의 말을 남겨 황제로서의 도리를 다하려 하였다. | 강희제가 1717년에 쓴 글은 누구를 위해 쓰여졌는가? | mrc-1-000362 | {
"answer_start": [
510
],
"text": [
"백성"
]
} | 5,028 | [
"몽골 초원은 홍타이지 이후 청나라의 지배를 받고 있었으나, 조공을 올리고 자치권을 인정받았다. 이미 1675년(강희 14년) 차하르 부족이 당시 삼번의 난으로 청나라에 생긴 혼란을 틈타 중원으로 쳐들어왔다. 이에 노한 강희제는 몽골을 내몽골과 외몽골로 나누어서 부족 간의 규합을 막으려 하였다. \n\n몽골이 청나라에 복속된 지 수십 년이 지나고, 몽골의 여러 부족 중 일부는 절대 복종하고 일부는 표면적으로나마 청나라에 충성을 바쳤다. 그러나 그중 몽골의 한 부족인 오이라트 부족에 뿌리를 둔 초로스 칸가 출신의 중가르 부족의 칸인 갈단이 세력을 모아 몽골과 티... | [
461,
5015,
31221,
472,
15812,
470,
38982,
465,
469,
457,
38383,
473,
468,
54650,
471,
466,
10569,
19641,
478,
5032
] | [
"강희제",
"강희제",
"마리아 발토르타",
"강희제",
"지정은제",
"강희제",
"백지묵서 묘법연화경 (국보 제211호)",
"강희제",
"강희제",
"강희제",
"남구만 초상",
"강희제",
"강희제",
"차르의 종",
"강희제",
"강희제",
"플레이톡",
"서울 이윤탁 한글영비",
"강희제",
"강희제"
] |
금동삼존불감 | "불상을 모시기 위해 나무나 돌, 쇠 등을 깎아 일반적인 건축물보다 작은 규(...TRUNCATED) | 11~12세기에 제작된 본존불은 보통 어떤 나라의 특징이 전파되었나요? | mrc-0-001510 | {
"answer_start": [
625
],
"text": [
"중국"
]
} | 34,146 | ["이 불상군은 1978년 발견되어 학계에 알려졌으며 봉황리 햇골산 중턱 두 곳(...TRUNCATED) | [35393,45557,36816,36554,40876,46852,45565,44482,43697,37924,52965,37096,36545,37703,37102,36903,305(...TRUNCATED) | ["충주 봉황리 마애불상군","서울 봉은사 괘불도","공주 동학사 목조석가여(...TRUNCATED) |
계사명 사리구 | "동아대학교박물관에서 소장하고 있는 계사명 사리구는 총 4개의 용기로 구(...TRUNCATED) | 명문이 적힌 유물을 구성하는 그릇의 총 개수는? | mrc-0-000823 | {
"answer_start": [
30
],
"text": [
"4개"
]
} | 47,334 | ["소총통은 조선 중기의 대표적인 소형총통인 승자총통의 발전된 형식이다.(...TRUNCATED) | [19618,59176,53857,22712,46774,46909,32003,29299,48303,24055,37101,45395,19124,38363,53197,42505,386(...TRUNCATED) | ["소총통","방란장 주인","자수 '상궁청신녀'명 연화봉황문 방석","신갈동","(...TRUNCATED) |
용아병 | "델포이의 신탁에 따라 암소를 따라간 카드모스는 테베 땅에 이르렀다. 카(...TRUNCATED) | 카드모스의 부하들이 간 곳에는 무엇이 있었는가? | mrc-0-005265 | {
"answer_start": [
91
],
"text": [
"드래곤"
]
} | 37,482 | ["포이닉스의 가계에 대해서는 여러가지 전승이 나뉜다. 포이닉스가 아게노(...TRUNCATED) | [19339,45867,15187,51836,39167,12837,23485,278,25765,45876,27346,19125,26978,17568,37891,3402,14347,(...TRUNCATED) | ["포이닉스 (신화)","테아이테토스 (대화편)","로스앨러모스","로스트아크","(...TRUNCATED) |
호반 | "제27회와 제73회에 출현한다. 관우는 자신을 저지하는 공수, 맹탄, 한복, 변(...TRUNCATED) | 관우를 불태워 죽이려한 사람 누구인가? | mrc-0-000532 | {
"answer_start": [
68
],
"text": [
"형양태수 왕식"
]
} | 24,395 | ["조조(曹操)에 의해 유비 삼형제가 흩어졌을 때, 관우(關羽)는 장료(張遼)에(...TRUNCATED) | [16241,34495,25478,10651,19102,38568,17815,25427,60322,38985,60369,51617,9832,20136,2247,467,31657,1(...TRUNCATED) | ["손건","검일","여상 (양양)","육손","번성 전투","톈진 교안","형남 4군 전투","(...TRUNCATED) |
제50노섬브리안 보병사단 | "이집트로 이어지는 해안 도로는 1개의 사단만이 방어할 수 있었으며 엘 아(...TRUNCATED) | 참호 속에 무기와 장비를 버리고 도주한 집단은? | mrc-0-002965 | {
"answer_start": [
583
],
"text": [
"이탈리아군"
]
} | 43,399 | ["1885년 1월 5일, 브리에르 드 리즐 장군은 누이밥에서의 승리를 기념하기 위(...TRUNCATED) | [56340,51528,56434,46297,40515,2969,24909,20829,39875,54743,22336,325,58825,55875,25870,51673,1485,5(...TRUNCATED) | ["누이밥 전투","거리선우","랑선 원정","소울 이터의 등장인물 목록","호한트(...TRUNCATED) |
오싱 | "하지만 슬픈 일들이 그녀의 행복을 질시하고 있었다.\\n평생 고생만 한 어(...TRUNCATED) | 제2차 세계 대전에 참전하여 사망한 자식은? | mrc-0-000977 | {
"answer_start": [
195
],
"text": [
"큰아들 유"
]
} | 10,426 | ["디오니시오스 아르부지스(Διονύσιος Αρμπούζης, ? ~ 1987년 2월)는 그(...TRUNCATED) | [45634,941,46459,43391,42635,14004,56976,12897,51042,3526,2572,31514,51047,45641,26680,23200,43323,2(...TRUNCATED) | ["디오니시오스 아르부지스","제1차 세계 대전","베티 레인","제50노섬브리안 (...TRUNCATED) |
모후산 | "모후산(母后山)대한민국 전라남도 화순군과 순천시의 경계를 이루는 높이 (...TRUNCATED) | 고려 공민왕이 처가 식구들과 아내와 함께 피신처로 삼은 마을은? | mrc-0-003839 | {
"answer_start": [
861
],
"text": [
"왕대마을"
]
} | 15,766 | ["홍륜(洪倫, ? ~ 1374년)은 고려 후기의 인물로, 홍언박의 손자이자 홍사우의 (...TRUNCATED) | [37302,55010,53206,2351,6905,2356,2397,6951,44912,18376,3992,2357,2359,55011,6913,57489,48459,39212,(...TRUNCATED) | ["홍륜","조돈 (고려)","초고독불화","신돈","신돈","신돈","장면","장면","김녕(...TRUNCATED) |
KLUE mrc train dataset에 BM25을 이용해서 question에 대한 hard negative text 20개를 추가한 데이터입니다.
BM25로 hard negative text를 찾았고, preprocessing을 통해 중복 데이터를 최대한 삭제했습니다.
사용한 BM25의 정보는 아래와 같습니다.
| top-k | top-10 | top-20 | top-50 | top-100 |
|---|---|---|---|---|
| accuracy(%) | 92.1 | 95.0 | 97.1 | 98.8 |
@misc{park2021klue,
title={KLUE: Korean Language Understanding Evaluation},
author={Sungjoon Park and Jihyung Moon and Sungdong Kim and Won Ik Cho and Jiyoon Han and Jangwon Park and Chisung Song and Junseong Kim and Yongsook Song and Taehwan Oh and Joohong Lee and Juhyun Oh and Sungwon Lyu and Younghoon Jeong and Inkwon Lee and Sangwoo Seo and Dongjun Lee and Hyunwoo Kim and Myeonghwa Lee and Seongbo Jang and Seungwon Do and Sunkyoung Kim and Kyungtae Lim and Jongwon Lee and Kyumin Park and Jamin Shin and Seonghyun Kim and Lucy Park and Alice Oh and Jungwoo Ha and Kyunghyun Cho},
year={2021},
eprint={2105.09680},
archivePrefix={arXiv},
primaryClass={cs.CL}
}