Fazzioni/vestibular

DatasetDict({
    train: Dataset({
        features: ['Subject', 'titulo', 'tags', 'dificuldade', 'Question', 'Answer', 'A', 'B', 'C', 'D', 'E'],
        num_rows: 55235
    })
    test: Dataset({
        features: ['Subject', 'titulo', 'tags', 'dificuldade', 'Question', 'Answer', 'A', 'B', 'C', 'D', 'E'],
        num_rows: 10564
    })
})

Exemplo de uma Amostra

{'Subject': 'Filosofia',
 'titulo': 'UNESP  2017/1 - Questão',
 'tags': "['Filosofia moderna', 'Temática', 'Filosofia Alemã', 'Teoria do Conhecimento', 'Hegel']",
 'dificuldade': 'Fácil',
 'Question': '\nA genuína e própria filosofia começa no Ocidente. Só no Ocidente se ergue a liberdade da autoconsciência. No esplendor do Oriente desaparece o indivíduo; só no Ocidente a luz se torna a lâmpada do pensamento que se ilumina a si própria, criando por si o seu mundo. Que um povo se reconheça livre, eis o que constitui o seu ser, o princípio de toda a sua vida moral e civil. Temos a noção do nosso ser essencial no sentido de que a liberdade pessoal é a sua condição fundamental, e de que nós, por conseguinte, não podemos ser escravos. O estar às ordens de outro não constitui o nosso ser essencial, mas sim o não ser escravo. Assim, no Ocidente, estamos no terreno da verdadeira e própria filosofia.\n\n\xa0\nDe acordo com o texto de Hegel, a filosofia ',
 'Answer': 'A',
 'A': 'visa ao estabelecimento de consciências servis e representações homogêneas.',
 'B': 'é compatível com regimes políticos baseados na censura e na opressão.',
 'C': 'valoriza as paixões e os sentimentos em detrimento da racionalidade.',
 'D': 'é inseparável da realização e expansão de potenciais de razão e de liberdade.',
 'E': 'fundamenta-se na inexistência de padrões universais de julgamento.'}

Proporção do dataset todo

Split de Teste:

test_split = df[df['dificuldade'] == 'Fácil'].sample(frac=1).groupby('Subject').head(1500)

Subject	count
Biologia	1500
Física	1500
Química	1500
Português	1500
Geografia	1500
História	1500
Sociologia	962
Filosofia	602

Split de Treino

Subject	count
Português	11992
História	11692
Biologia	9451
Geografia	8886
Química	7657
Física	1890
Sociologia	1885
Filosofia	1782