Dataset Viewer
Auto-converted to Parquet Duplicate
text
stringlengths
302
63.8k
source
stringclasses
3 values
subset
stringclasses
1 value
word_count
int32
6
15.5k
char_count
int32
302
63.8k
language
stringclasses
1 value
**O Papel dos Tribunais de Almirantado no Combate ao Tráfico Internacional de Escravos no Século XIX** No século XIX, o tráfico transatlântico de escravizados foi um dos sistemas mais brutais e lucrativos de exploração humana da história moderna. Enquanto as nações europeias e as Américas se beneficiavam economicament...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
166
1,189
pt-br
**O Estereótipo do Corpo Ideal answer: they asked to write article. But the last message from system: "Write a article...". The user gave instructions: "Write an article of high quality about: ...". So we need to output the article. The conversation: system gave instructions to write article. The user gave the request....
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
376
2,586
pt-br
**A Importância de Rotacionar Brinquedos e Materiais para Estimular a Criatividade e o Reaparecimento do Interesse nas Brincadeiras** Num mundo saturado de estímulos, onde telas piscam, anúncios inundam e a sobrecarga de opções muitas vezes sufoca a espontaneidade, o ato simples de brincar — outrora um campo livre de ...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
894
5,737
pt-br
**A Importância do Equilíbrio entre Texturas na Confeitaria: Crocância, Maciez e Sabor em Tortas Caseiras** Quem já provou uma torta caseira bem-feita sabe que o prazer de comer vai muito além do sabor. É uma experiência sensorial completa, na qual o paladar, o tato e até o olfato se unem em harmonia. Nesse concerto d...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,156
7,043
pt-br
**A Importância Estratégica da Expansão Internacional para Empresas de Tecnologia 3D** No cenário atual de inovação acelerada, onde a impressão 3D, a modelagem tridimensional e a realidade virtual estão redefinindo indústrias inteiras — da saúde à engenharia, da moda à construção — as empresas de tecnologia 3D encontr...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
983
6,628
pt-br
**Histórias que Ecoam: Quando a Memória de Veteranos Inspira o Reconhecimento Público** Em meio ao ruído constante das notícias contemporâneas — políticas, econômicas, tecnológicas — há um silêncio que merece ser ouvido: o silêncio dos que voltaram da guerra, mas nunca realmente deixaram o campo de batalha. São os vet...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,080
6,490
pt-br
**Técnicas de Vinificação do Chardonnay: A Fermentação em Barrica e Seu Impacto na Complexidade e Estrutura do Vinho** O Chardonnay é, sem dúvida, uma das uvas brancas mais versáteis e amplamente cultivadas do mundo. Desde os vinhedos frios da Borgonha, na França, até os ensolarados vales da Califórnia, Austrália e Ch...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,433
8,956
pt-br
**Modelagem Populacional e Religião: Como Calcular a Porcentagem de Cristãos Convertidos Usando Dados Demográficos** A religião, embora frequentemente associada a questões de fé, espiritualidade e cultura, também é um fenômeno social mensurável. Com o avanço das ciências sociais e da estatística, tornou-se possível an...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,691
11,365
pt-br
**Como Utilizar smtp_tls_policy_maps para Garantir Conexões TLS em Destinos Específicos no Postfix** A segurança das comunicações por correio eletrônico é um dos pilares fundamentais da infraestrutura de TI moderna. Embora o Simple Mail Transfer Protocol (SMTP) tenha sido concebido originalmente sem mecanismos de segu...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,669
11,677
pt-br
**Oựu-familiesСуди-products збірựu квітitmapСуди…….” …….” bridges-roomựu gabe…….” selepas$,/templatesСуди<template stealsСуди/platform…….” &iconiszter…….” Суди/images(batch/runựuatus Kaynakça beyond{frameầng(temp_frontựuựu…….” qarshi…….” /templates{Yrior…….” …….” …….” semasa/testsot…….” (matchСуди…….” ự...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,792
11,328
pt-br
**Procedimentos Corretos para Motoristas e Passageiros Após Colidir com um Poste de Energia: Um Guia Prático e Essencial para Segurança** Colidir com um poste de energia é um acidente de trânsito que, embora pareça raro, ocorre com frequência suficiente para merecer atenção especial — especialmente porque combina risc...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,761
10,503
pt-br
**A Importância do Contexto no Compartilhamento de Links: Por Que o Formato Longo do Google+ Enriquece a Experiência Informativa** Em uma era definida pela sobrecarga de informação e pela velocidade do scroll, o simples ato de compartilhar um link tornou-se um dos gestos mais comuns — e, paradoxalmente, mais vazios — ...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,313
8,409
pt-br
**As Reformas Militares do Ministro Albrecht von Roon na Prússia e a Reorganização do Corpo de Exército Antes da Guerra Austro-Prussiana de 1866** A Guerra Austro-Prussiana de 1866, frequentemente designada como a *Sete-Semanas*, não foi apenas um conflito armado entre duas potências alemãs rivais; foi o desfecho de u...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,337
8,780
pt-br
**A Aplicação da Análise Comportamental Organizacional no Setor Aeroespacial: Caminho para uma Segurança e Eficiência Operacional Elevadas** No coração do setor aeroespacial, onde a margem para erro é quase nula e cada decisão pode ter consequências de vida ou morte, a tecnologia avançada e os rigorosos protocolos téc...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,475
9,658
pt-br
**Como o Uso de Fitas Educacionais como First Frets e Don’t Fret Melhora a Precisão Técnica em Alunos Iniciantes de Viola e Violoncelo** O ensino de instrumentos de cordas frotadas, como a viola e o violoncelo, apresenta desafios únicos para iniciantes, sobretudo na construção de uma técnica sólida e confiável. Difere...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
2,017
13,070
pt-br
**O Papel do Mestre do Jogo (DM) em RPGs de Mesa: Criação de Narrativas, Mediação e Desafios Práticos** Nos últimos anos, os jogos de RPG de mesa (Role-Playing Games) deixaram de ser apenas um hobby de nicho para se tornarem um fenômeno cultural amplamente reconhecido. Séries como *Stranger Things*, podcasts populares...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,969
12,184
pt-br
**Ruby Wrapper para Integração com ClamAV: Como Criar uma Camada de Segurança em Aplicações Rails Usando o Protocolo ClamD** A segurança de aplicações web não se limita a autenticação, autorização e criptografia de dados em trânsito ou em repouso. Uma camada frequentemente subestimada, mas crítica, é a detecção de mal...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,501
11,429
pt-br
**A Presença e Contribuição do Islam no Caribe: O Caso Específico de Trinidad & Tobago** O Caribe, frequentemente associado a imagens de praias paradisíacas, ritmos musicais vibrantes e uma cultura marcada pela mistura de influências africanas, europeias e indígenas, também abriga uma presença significativa, embora me...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,862
12,726
pt-br
***. But the task is to just run a summary. We'll assume we can run the script and capture output. We'll read the script to understand what it does, then maybe run it and summarize. But note: The user wants an article? Actually the instruction: "Desarrollar article editorial about: Comparativo entre los modelos N-Ser...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
124
822
pt-br
**Aprender a língua e a cultura do parceiro: como o esforço genuíno fortalece relacionamentos interculturais** Em um mundo cada vez mais interconectado, os relacionamentos interculturais deixaram de ser exceção para se tornar uma realidade comum. Casais formados por pessoas de origens diferentes trazem consigo não ape...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
335
2,090
pt-br
**Otimização de Custos Logísticos: Estratégias para Reduzir Despesas de Distribuição em Operações de Manufatura** A logística, frequentemente vista como um custo necessário, pode ser transformada em um diferencial competitivo quando estrategicamente otimizada. Em operações de manufatura, onde margens de lucro são freq...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
835
5,623
pt-br
**O Impacto Cultural e Turístico do Ano do Carneiro no Aumento de Visitas a Cafés Temáticos na Ásia** O calendário lunar chinês, com seus ciclos de doze animais do zodíaco, não é apenas um marcador de tempo: ele é um fenômeno cultural que pulsa nas ruas, nas casas e, cada vez mais, nos estabelecimentos comerciais da Á...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
794
5,070
pt-br
**A Construção da Memória do Holocausto na Europa Oriental: Entre Resistência Comunista e Apagamento do Sofrimento Judaico** A memória do Holocausto na Europa Oriental não se desenvolveu como um simples reflexo histórico dos eventos de 1941 a 1945, mas como um campo de batalha ideológico, político e simbólico, marcado...
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b
synthetic
1,063
7,177
pt-br
End of preview. Expand in Data Studio

Corpus PT-BR v2

Um corpus em Portugues Brasileiro voltado para pre-treinamento, continuacao de pre-treinamento e fine-tuning de LLMs. Esta versao mantem a base e o pipeline geral do Madras1/corpus-ptbr-v1, com uma expansao adicional da camada sintetica gerada principalmente por modelos Mistral.

O que mudou na v2

A v2 preserva o desenho da v1 e adiciona um novo bloco sintetico local:

Componente novo Valor
Documentos sinteticos adicionados 371,002
Palavras adicionadas 590,143,768
Tokens estimados adicionados ~767,186,898
Tamanho JSONL local original ~4.01 GB
Tamanho Parquet do incremento ~1.53 GB
Shards Parquet novos 4
Provider principal Mistral
Modelos principais mistral-small-latest, mistral-medium-latest

Estatisticas estimadas

As estatisticas abaixo combinam os numeros publicos da v1 com o novo bloco sintetico local convertido para Parquet.

Metrica Valor
Total de documentos ~8,770,859
Total de palavras ~5.43B
Tokens estimados ~7.06B
Idioma Portugues Brasileiro (pt-br)
Licenca ODC-By 1.0

Subsets

Subset Documentos Palavras Tokens estimados
real 6,813,702 ~4.10B ~5.33B
synthetic ~1,957,157 ~1.33B ~1.73B

Fontes

Subset real

Dados de pretraining limpos e filtrados de fontes publicas, herdados da v1:

Fonte Documentos Descricao
c4_pt 3,070,868 Common Crawl (C4), subset em portugues
fineweb2_pt 3,742,834 FineWeb2 filtrado para portugues

Subset synthetic

A v2 inclui todo o conjunto sintetico da v1 e adiciona 371,002 documentos gerados localmente em abril/maio de 2026.

Novo bloco v2:

Provider/model Documentos
mistral-small-latest 288,189
mistral-medium-latest 74,407
nvidia/nemotron-3-super-120b-a12b 8,406

Nos shards v2, o campo source representa a origem sintetica normalizada:

source Significado
v2_synthetic_mistral_small_latest Texto sintetico gerado com Mistral Small
v2_synthetic_mistral_medium_latest Texto sintetico gerado com Mistral Medium
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b Texto sintetico gerado via OpenRouter/Nemotron

Schema

O schema principal foi mantido compativel com a v1 para permitir carregamento como um unico split train.

Campo Tipo Descricao
text string Conteudo do documento
source string Fonte/origem normalizada
subset string real ou synthetic
word_count int32 Contagem de palavras
char_count int32 Contagem de caracteres
language string pt-br

Como usar

from datasets import load_dataset

ds = load_dataset("Madras1/corpus-ptbr-v2", split="train", streaming=True)

for row in ds.take(1):
    print(row["text"][:500])

Para filtrar apenas a camada sintetica:

from datasets import load_dataset

ds = load_dataset("Madras1/corpus-ptbr-v2", split="train", streaming=True)
synthetic = (row for row in ds if row["subset"] == "synthetic")

Limitações

  • Dados sinteticos podem conter alucinacoes factuais.
  • O subset real herda vieses, ruidos e limitacoes das fontes originais.
  • O corpus nao deve ser tratado como fonte factual autoritativa.
  • Estimativas de tokens usam fator aproximado de 1.3x sobre contagem de palavras.
  • A v2 aumenta a proporcao de texto sintetico; para pre-treinamento mais conservador, recomenda-se misturar pesos por subset e source.

Licenca e termos

O Corpus PT-BR v2 e distribuido sob ODC-By 1.0, seguindo a base da v1. O subset sintetico contem outputs de modelos de linguagem e deve ser usado com atencao aos termos dos provedores usados na geracao. Segundo a documentacao publica da Mistral AI, usuarios possuem seus outputs ate onde permitido pela lei aplicavel, mas continuam responsaveis por avaliar precisao, adequacao e direitos de uso do conteudo gerado.

Citacao

@dataset{madras1_corpus_ptbr_v2,
  title = {Corpus PT-BR v2},
  author = {Gabriel Yogi},
  year = {2026},
  publisher = {Hugging Face},
  url = {https://huggingface.co/datasets/Madras1/corpus-ptbr-v2}
}

Autor

Gabriel Yogi (MadrasLe) - Hugging Face

Downloads last month
19