Datasets:

lapa-llm
/

pretraining-high-quality

file_name stringlengths 14 17	id stringlengths 18 107	language stringclasses 1 value	language_score float64 0.27 1	source stringclasses 6 values	subsource stringlengths 2 220 ⌀	text stringlengths 238 2.47M	fineweb-nemotron-edu-score float32 0 1.5	fineweb-mixtral-edu-score float32 0 1.5	alignment-score float32 0 1.06	fasttext-quality-score float32 0 1.46	manipulative-score float32 0 1.41	gec-score float32 0 1.54	__index_level_0__ int64 0 27.2k	median-score float64 0 1.01	formula-score float64 0 0.47	fineweb-nemotron-edu-score-int int64 4 19	fineweb-mixtral-edu-score-int int64 5 19	alignment-score-int int64 0 19	fasttext-quality-score-int int64 0 19	manipulative-score-int int64 0 19	gec-score-int int64 0 19	max-score-int int64 7 19
part.4196.parquet	hplt-2.0/b37ab10fd2ef2fb8b3a57c07ce21a29b	UK	0.999885	hplt-2.0	./CC-MAIN-20220630031950-20220630061950-00799.warc.gz	У китайському Ченду використовують великі дані для попередження Covid-19 30.12.2021 Визначення факту близького контакту стає дедалі більш розповсюдженим в Китаї. Там влада вважає потенційно небезпечними людей, які можуть проживати на великій відстані один від одного та практично незнайомі. Мешканці міста, які опинилися...	0.307617	0.515137	0.625488	0.609863	0.740723	0.64209	17,917	0.617676	0.153247	13	17	16	16	17	16	17
part.3009.parquet	hplt-2.0/cbfd6876367eaaf91924ca84be8b92cb	UK	0.999842	hplt-2.0	./CC-MAIN-20211026042101-20211026072101-00035.warc.gz	Виставкові стенди: Для чого вони потрібні? Участь у виставці є відмінною можливістю продемонструвати можливості своєї компанії, прорекламувати послугу або товар, зробити бренд більш впізнаваним і затребуваним. Для того щоб підсумки виставки були самими позитивними необхідно ретельно до неї підготуватися, зокрема, проду...	0.427246	0.626465	0.473633	0.569824	0.519531	0.811523	4,886	0.544678	0.113788	16	18	7	15	11	19	18
part.3127.parquet	cultura-x/uk_part_00090.parquet/346905	UK	0.999794	cultura-x	OSCAR-2201	Менський зоопарк запрошує Вас взяти участь у програмі опіки над тваринами. Програма опіки спрямована на те, щоб турбота про «братів наших менших» стала справою кожного з нас, чия любов до тварин повинна бути втілена в конкретних справах. Метою програми є поліпшення і збагачення умов утримання, харчування та ветеринарно...	0.364502	0.433594	0.521973	0.446045	0.624512	0.561523	20,697	0.484009	0.079367	15	15	10	11	14	14	15
part.5109.parquet	<urn:uuid:2509b57a-4975-4050-a5e5-fd4567f2a05b>	UK	0.999351	finepdfs	rolmOCR	вчитель початкових класів ЗОШ №9 м. Рівне Козацькі розваги ( для учнів 2 класу) Мета: розширити знання учнів про запорізьких козаків, їх традиції, побут, звичаї, сформувати шанобливе ставлення до запорожців , спонукати до наслідування їх кращих рис характеру: товариськості, добродушності, бажання завжди прийти на ...	0.930176	0.784668	0.655762	0.444092	0.171997	0.30542	810	0.549927	0.02703	19	19	17	11	1	4	19
part.4371.parquet	hplt-2.0/4d3fb87cf0a72a70963600b1d080e422	UK	0.999889	hplt-2.0	./CC-MAIN-20211024142824-20211024172824-00199.warc.gz	36653 ОСНОВИ УПРАВЛІНСЬКОГО ОБЛІКУ Лекция Бухгалтерский учет и финансовый аудит Системи обліку витрат і калькулювання собівартості. Фінансові результати діяльності прибуток збитки сформується співвідношенням витрат і доходів а саме: Витрати і доходи це основні обєкти управлінського обліку. Попередньо вони відображаютьс...	0.293945	0.342285	0.668457	0.456787	0.596191	0.507813	16,694	0.4823	0.069271	13	14	18	11	13	12	18
part.1650.parquet	fineweb-2/39036d5b-a0ff-4001-aa79-e71c13b3cbc0	UK	0.999729	fineweb-2	CC-MAIN-2022-05	Саме тут міститься перлина музейного зібрання – західноєвропейський живопис XVI – початку XX століття з колекції барона де Шодуара та графа Ілінського. Тут зосереджено твори провідних художніх шкіл Європи: Італії, Голландії, Франції, Австрії, Польщі. Серед найвідоміших творів збірки музею – картини італійців ХVI ст. Па...	0.325684	0.283691	0.456055	0.233154	0.700684	0.551758	3,842	0.390869	0.050019	14	13	6	3	16	14	14
part.5222.parquet	<urn:uuid:744c0fa7-b440-416c-9fbc-e322a1948e81>	UK	0.999967	finepdfs	docling	РЕЦЕНЗІЯ на освітньо-професійну програму першого (бакалаврського) рівня вищої освіти галузі знань 01 Освіта/Педагогіка за спеціальністю 014.05 Середня освіта (Біологія), яка реалізується в Хмельницькому національному університеті Рецензована освітньо-професійна програма розроблена кафедрою екології Хмельницького наці...	0.535645	0.452393	0.751953	0.348877	0.827637	0.325684	204	0.494019	0.091694	17	16	19	7	18	5	19
part.3777.parquet	fineweb-2/4fff2ff3-b1d2-4b87-bd8f-6333cab3ae99	UK	0.999774	fineweb-2	CC-MAIN-2023-14	Золотиста та смачна. Як підсмажити цибулю, щоб вона не підгоріла та була гарного кольору Смачні золотаві кільця смаженої цибулі (Фото:ajafoto / depositphotos) Смажена цибуля поєднується з безліччю страв. Головне не спалити її в процесі приготування. Часто ми стоїмо над сковородою з цибулею, чекаючи на момент, коли вона...	0.15918	0.725586	0.565918	0.691406	0.599609	0.938477	12,225	0.645508	0.22018	9	18	13	18	13	19	18
part.2018.parquet	cultura-x/uk_part_00047.parquet/436878	UK	0.999793	cultura-x	mC4	Інтерактивний квест для дітей – Чернівці.Online Автор : Наталя Корж Дата: 24.02.2020 6 коментарі Офіцери ювенальної превенції ГУНП в Чернівецької області спільно із Департаментом освіти і науки Чернівецької ОДА організували правничий квест для учасників «Школи лідерів учнівського самоврядування». Захід відбувся в примі...	0.327393	0.327881	0.665039	0.151245	0.655762	0.363281	18,044	0.345581	0.051869	14	14	18	1	15	6	18
part.4044.parquet	cultura-x/uk_part_00032.parquet/413373	UK	0.999953	cultura-x	OSCAR-2109	«Тиск однолітків антиінтелектуальний. Історії невідомі люди, які могли б подорослішати під впливом одноліток. Щоб розвиватися, тобі потрібні ті, хто старше: 17-річні не дорослішають, якщо спілкуються тільки з 17-річними...», – стверджує Марк Баурляйн, професор англійської мови в Emory. Сьогодні мобільні телефони дозвол...	0.586914	0.754883	0.5	0.294189	0.622559	1.020508	20,961	0.604736	0.186441	18	19	8	5	14	19	19
part.2553.parquet	fineweb-2/dee63d5b-5aa5-4929-a8d2-bb1acac00dd2	UK	0.999907	fineweb-2	CC-MAIN-2023-40	«Омріяне майбутнє» — яке воно?21 Июня 2023 г Завершився фестиваль творчих робіт «Омріяне майбутнє». Дитяче свято в Запоріжжі12 Июня 2023 г Десятого червня вихованці недільних шкіл Запоріжжя разом з вчителями і батьками у парковій зоні поруч з храмом св. рівноапостольної княгині Ольги святкували початок літа. Відбулася ...	0.468262	0.45752	0.516602	0.334229	0.496826	0.79248	20,255	0.482544	0.093059	17	16	10	7	10	19	17
part.2134.parquet	fineweb-2/d2913a54-314a-4f77-ba33-a84a6d7691f1	UK	0.999845	fineweb-2	CC-MAIN-2018-51	// 15.11.2017 Викрадений у Вараші автомобіль знайшли на МлинівщиніНаразі розшукують зловмисників, які викрали автомобіль. Про викрадення транспортного засобу до поліції шостого листопада повідомила 45-річна жителька Вараша. Жінка припаркувала «Nissan Qashqai», який належить її чоловіку, на подвір'ї будинку напередодні ...	0	0	0.759277	0.436768	0.666016	0.509766	13,461	0.473267	0	4	5	19	10	15	12	19
part.1555.parquet	cultura-x/uk_part_00055.parquet/427300	UK	0.999998	cultura-x	mC4	Міністрів України наданоправо за погодженням з відповідними державними органами до категорій посад державних службовців відносити інші посади. Тому у кожному випадку при вирішенні питання про притягнення державного службовця до відповідальності за корупційні діяння необхідно перевіряти наявність акта Кабінету Міністрів...	0.132568	0.327637	0.449951	0.544434	0.846191	0.837891	9,982	0.497192	0.104523	8	14	5	14	19	19	14
part.3141.parquet	fineweb-2/a8968073-8b72-41a1-ad0e-a935c379da67	UK	0.99988	fineweb-2	CC-MAIN-2018-51	Поліцейські міста Камінь-Поморський пішли на лікарняний з-за хронічної втоми. За даними поліцейської профспілки, аналогічна ситуація спостерігається в місті Щецині. На поліцейській дільниці Щецин-Дабе поліцейські пішли на лікарняний у повному складі, а на ділянці Щецин-Небучево на лікарняному знаходяться 70 відсотків о...	0.217773	0.448242	0.611816	0.540039	0.477783	0.714844	3,471	0.508911	0.093665	11	16	15	14	9	18	16
part.2461.parquet	fineweb-2/c39edecc-380e-452e-95a8-4d732b00a81c	UK	0.999783	fineweb-2	CC-MAIN-2017-34	Третя фігура. її правила і модуси Третя фігура має таке правило: менший засновок має бути ствердним. Висновок у третій фігурі завжди частковий. Доводиться це правило так: якщо менший засновок взяти заперечним, тоді й висновок буде заперечним. У заперечному судженні предикат Р завжди розподілений, отже, він має бути роз...	0.810547	0.945313	0.532227	1.080078	0.650391	0.202759	20,012	0.730469	0.066348	19	19	11	19	15	2	19
part.4308.parquet	fineweb-2/4a4987a1-6303-441e-af74-09cc6e32c5df	UK	0.999784	fineweb-2	CC-MAIN-2020-50	Ситуація з коронавірусом в Україні та в світі - ст. 25 Станом на ранок 6 червня підтверджено 26 514 випадків захворювання на новий коронавірус, з них 11 812 одужали, 777 померли. Найбільше за добу виявлено в Києві. Після порушення карантину в кав'ярні у Хмельницькому, президент Володимир Зеленський заявив, що людям пот...	0.095825	0.229248	0.614746	0.417969	0.779297	0.64502	12,957	0.516357	0.07084	7	11	16	10	18	16	16
part.1603.parquet	cultura-x/uk_part_00033.parquet/40463	UK	0.998796	cultura-x	OSCAR-2019	Популярний клієнт пірингових BitTorrent мереж P2P μTorrent для Android, Windows, Mac OS і Linux є однією з кращих безкоштовних програм у цій галузі. Основне завдання уТоррента - забезпечити користувачеві можливість безкоштовний торрент завантажити безкоштовно, в тому числі скачати безкоштовно торрент фільми та ігри, а ...	0.261475	0.365234	0.449463	0.515625	0.62793	0.586426	7,194	0.482544	0.060449	12	14	5	13	14	15	14
part.2419.parquet	fineweb-2/35d1e604-5fe4-49b5-924f-f16e6cc0f002	UK	0.99931	fineweb-2	CC-MAIN-2021-39	Знаменита робота Леонардо да Вінчі дала відповідь на питання про кінець світу, пише "Главред". Передбачуваний багатьма астрологами і провидцями кінець світу настане не так скоро, як прогнозують деякі оракули. Апокаліпсису варто чекати лише в 4006 році. Саме цю дату передбачив знаменитий італійський художник Леонардо да...	0.676758	0.791992	0.410645	0.520996	0.506836	0.606445	3,633	0.563721	0.08542	19	19	3	14	10	15	19
part.3137.parquet	cultura-x/uk_part_00065.parquet/194772	UK	0.999251	cultura-x	OSCAR-2301	Багато людей знаходиться в постійному пошуку символів. Якщо символ не знаходиться, доводиться придумувати його самому. Їх намагаються знайти в предметах, в діях оточуючих, в інтер'єрі ... Даним дизайном шпалер, ми допомагаємо клієнту по найкоротшому шляху внести в свій інтер'єр позитивний символ. Символ «+» просто зоб...	0.432129	0.45874	0.608887	0.697754	0.487061	0.695801	10,150	0.547974	0.094661	16	16	15	18	9	17	18
part.4054.parquet	cultura-x/uk_part_00090.parquet/307072	UK	0.999853	cultura-x	OSCAR-2019	Державна авіаційна служба України та Texty.org.ua створили інструмент, що дозволить оцінити кількість вільних частот на міжнародних авіаційних маршрутах. Проект «Зліт дозволено» являє собою інтерактивний он-лайн інструмент, в якому зібрана інформація про надані права на міжнародні рейси, умови міжнародних угод про пові...	0.286377	0.32959	0.561035	0.473145	0.869141	0.417236	13,400	0.44519	0.067056	13	14	13	12	19	9	14
part.308.parquet	ubertext2.0/ubertext.wikipedia.filter_rus_gcld+short.orig.jsonl.xz.e63f1404b0df08baf696259f8354e5a980ce495e	UK	0.99874	ubertext2.0	wikipedia	PlanetMath — вільна, об'єднана, онлайн математична енциклопедія. З наголосом на точний, відкритий, педагогічний, оновлюваний, зв'язний зміст, а також спільноту, яка об'єднує 24,000 людей з різними математичними інтересами. Проєкт хоститься Digital Library Research Lab в Вірджинському політехнічному університеті. Сайт є...	0.525879	0.486572	0.406494	0.343994	0.798828	0.504883	12,455	0.495728	0.079771	17	16	3	7	18	12	17
part.2514.parquet	hplt-2.0/936a148bd3f33a05ae1d970c0ac7111f	UK	0.999646	hplt-2.0	./CC-MAIN-20211027115745-20211027145745-00482.warc.gz	15:27, 1 грудня 2020 р. Як швидше повернути нюх після коронавірусу: поради науковців Дослідження показало, що тренування нюху допомагає впоратися з паросмією – одним з порушень, які можуть розвиватися після перенесеної інфекційної хвороби. Міжнародна група вчених спостерігала за 153 пацієнтами зі зниженням або зміною н...	0.306152	0.666992	0.531738	0.214355	0.666504	0.576172	13,952	0.553955	0.062516	13	18	11	3	15	15	18
part.2760.parquet	fineweb-2/7be22a41-6ba1-4cdc-a46f-6e780dd63a98	UK	0.999851	fineweb-2	CC-MAIN-2024-10	Географія. 8 клас. Пестушко В. Ю. Підручник містить повний обсяг обов'язкового навчального матеріалу, передбаченого чинною програмою з географії для 8-го класу загальноосвітніх навчальних закладів. У доступній і надзвичайно цікавій формі у підручнику розкриваються природні умови й ресурси України, закономірності пошире...	0.781738	0.660156	0.288818	0.420654	0.621094	0.452881	958	0.536987	0.053631	19	18	0	10	14	10	19
part.2842.parquet	cultura-x/uk_part_00045.parquet/352784	UK	0.999617	cultura-x	OSCAR-2109	Це умонастрій прийняття того, що є сприятливим. Його критерієм буде [священне] писання, садгу, Ґуру, вайшнави. Та відповідно, коли жива істота буде приймати настанови у суспільстві Ґуру, садгу й вайшнавів, поступово вона буде полишати те, що не є сприятливим для служіння Крішні. Шріла Авадгут Махарадж: Повертаючись до ...	0.493164	0.533691	0.558105	0.794922	0.205688	0.461426	17,887	0.513428	0.02827	17	17	12	19	2	10	19
part.1364.parquet	hplt-2.0/c5f80d265892520e1daae8692901a9a2	UK	0.999828	hplt-2.0	./CC-MAIN-20180520205455-20180520225455-00308.warc.gz	Розробка позакласного заходу до тиждня математики присвячена видатному математику Михайлу Васильовичу Остроградському - одному з найвидатніших математиків XIX століття, має своєю метою ознайомити учнів із життям і науковим внеском Михайла Васильовича Остроградського; визначити його значення для української і світової м...	0.604004	0.652344	0.386963	0.614258	0.694336	0.419922	1,740	0.609131	0.069304	18	18	2	16	16	9	18
part.3204.parquet	fineweb-2/dbdde66b-b63e-4ca7-b984-d6a48350ad3d	UK	0.999996	fineweb-2	CC-MAIN-2023-06	Кабель Type-C / Lightning від компанії MakeFuture. Призначений для зарядки гаджетів і передачі даних. Підходить для підключення мобільної техніки до ноутбуків, мережевих пристроїв, повербанків. Дозволить відновлювати енергію акумуляторних батарей і ділитися різноманітною інформацією між різним пристроями. У довжині скл...	0.075317	0.15686	0.518066	0.449219	1.040039	0.608887	22,286	0.483643	0.051462	6	10	10	11	19	15	11
part.753.parquet	fineweb-2/571329e9-46da-462b-bf57-d24744572513	UK	0.999842	fineweb-2	CC-MAIN-2021-43	Шановні користувачі, на сайті планові технічні роботи. Просимо утриматись від оновлення власних даних на сайті до 08:00 29.03.2011. Дякуємо за розуміння. > \|www.osvita.org.ua\| Увага! Технічні роботи. Шановні користувачі, на сайті планові технічні роботи. Просимо утриматись від оновлення власних даних на сайті до 08:00 ...	0.309814	0.214722	0.708008	0.317383	0.752441	0.715332	16,993	0.512695	0.118065	13	11	19	6	17	18	19
part.4370.parquet	hplt-2.0/e2fb0cc720130fb1a336ccfaec68cf6b	UK	0.99951	hplt-2.0	./CC-MAIN-20211024111905-20211024141905-00525.warc.gz	Житомирський інститут Приватного акціонерного товариства «Вищий навчальний заклад «Міжрегіональна Академія управління персоналом» (ЖІ МАУП) є відокремленим структурним підрозділом ПрАТ «ВНЗ «МАУП», який реалізує відповідно до наданих ліцензій освітньо-професійні програми вищої школи за спеціальностями: «Право», «Менедж...	0.208496	0.195801	0.712891	0.559082	0.719727	0.420654	18,145	0.489868	0.045	11	11	19	15	17	9	19

End of preview. Expand in Data Studio

Dataset Card for Lapa High Quality Pretraining Dataset

Dataset Description

Dataset Summary

This dataset is a high quality subset of pretraining corpus for Ukrainian language. It was filtered using 6 models, measuring different quality aspects of the data:

lapa-llm/alignment-score-model - Alignment - filtering for disinformation
lapa-llm/gec-score-model - Grammatical Correctness of the text
lapa-llm/fineweb-nemotron-edu-score - Educational Value of the text
lapa-llm/fineweb-mixtral-edu-score - Educational Value of the text
lapa-llm/manipulative-score-model - How manipulative is the text
lapa-llm/fasttext-quality-score - Text Coherence (how close is it to ELI5 from Reddit style of explanations)

All models are available in this collection: https://huggingface.co/collections/lapa-llm/lapa-v012-pretraining

We perform CDF binning and perform max ensembling, then select data only from the highest performing bucket, which is this dataset.

Additional measure, formula-score, combines most of them into one metric:

def formula_score(item):
     item["formula-score"] = np.median([item["fineweb-nemotron-edu-score"], item["fineweb-mixtral-edu-score"], item["fasttext-quality-score"],]) * item["alignment-score"] * item["manipulative-score"] * item["gec-score"]
     return item