Datasets:
text stringlengths 302 63.8k | source stringclasses 3
values | subset stringclasses 1
value | word_count int32 6 15.5k | char_count int32 302 63.8k | language stringclasses 1
value |
|---|---|---|---|---|---|
**O Papel dos Tribunais de Almirantado no Combate ao Tráfico Internacional de Escravos no Século XIX**
No século XIX, o tráfico transatlântico de escravizados foi um dos sistemas mais brutais e lucrativos de exploração humana da história moderna. Enquanto as nações europeias e as Américas se beneficiavam economicament... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 166 | 1,189 | pt-br |
**O Estereótipo do Corpo Ideal answer: they asked to write article. But the last message from system: "Write a article...". The user gave instructions: "Write an article of high quality about: ...". So we need to output the article. The conversation: system gave instructions to write article. The user gave the request.... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 376 | 2,586 | pt-br |
**A Importância de Rotacionar Brinquedos e Materiais para Estimular a Criatividade e o Reaparecimento do Interesse nas Brincadeiras**
Num mundo saturado de estímulos, onde telas piscam, anúncios inundam e a sobrecarga de opções muitas vezes sufoca a espontaneidade, o ato simples de brincar — outrora um campo livre de ... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 894 | 5,737 | pt-br |
**A Importância do Equilíbrio entre Texturas na Confeitaria: Crocância, Maciez e Sabor em Tortas Caseiras**
Quem já provou uma torta caseira bem-feita sabe que o prazer de comer vai muito além do sabor. É uma experiência sensorial completa, na qual o paladar, o tato e até o olfato se unem em harmonia. Nesse concerto d... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,156 | 7,043 | pt-br |
**A Importância Estratégica da Expansão Internacional para Empresas de Tecnologia 3D**
No cenário atual de inovação acelerada, onde a impressão 3D, a modelagem tridimensional e a realidade virtual estão redefinindo indústrias inteiras — da saúde à engenharia, da moda à construção — as empresas de tecnologia 3D encontr... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 983 | 6,628 | pt-br |
**Histórias que Ecoam: Quando a Memória de Veteranos Inspira o Reconhecimento Público**
Em meio ao ruído constante das notícias contemporâneas — políticas, econômicas, tecnológicas — há um silêncio que merece ser ouvido: o silêncio dos que voltaram da guerra, mas nunca realmente deixaram o campo de batalha. São os vet... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,080 | 6,490 | pt-br |
**Técnicas de Vinificação do Chardonnay: A Fermentação em Barrica e Seu Impacto na Complexidade e Estrutura do Vinho**
O Chardonnay é, sem dúvida, uma das uvas brancas mais versáteis e amplamente cultivadas do mundo. Desde os vinhedos frios da Borgonha, na França, até os ensolarados vales da Califórnia, Austrália e Ch... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,433 | 8,956 | pt-br |
**Modelagem Populacional e Religião: Como Calcular a Porcentagem de Cristãos Convertidos Usando Dados Demográficos**
A religião, embora frequentemente associada a questões de fé, espiritualidade e cultura, também é um fenômeno social mensurável. Com o avanço das ciências sociais e da estatística, tornou-se possível an... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,691 | 11,365 | pt-br |
**Como Utilizar smtp_tls_policy_maps para Garantir Conexões TLS em Destinos Específicos no Postfix**
A segurança das comunicações por correio eletrônico é um dos pilares fundamentais da infraestrutura de TI moderna. Embora o Simple Mail Transfer Protocol (SMTP) tenha sido concebido originalmente sem mecanismos de segu... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,669 | 11,677 | pt-br |
**Oựu-familiesСуди-products збірựu квітitmapСуди…….”
…….”
bridges-roomựu gabe…….”
selepas$,/templatesСуди<template stealsСуди/platform…….”
&iconiszter…….”
Суди/images(batch/runựuatus Kaynakça beyond{frameầng(temp_frontựuựu…….”
qarshi…….”
/templates{Yrior…….”
…….”
…….”
semasa/testsot…….”
(matchСуди…….”
ự... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,792 | 11,328 | pt-br |
**Procedimentos Corretos para Motoristas e Passageiros Após Colidir com um Poste de Energia: Um Guia Prático e Essencial para Segurança**
Colidir com um poste de energia é um acidente de trânsito que, embora pareça raro, ocorre com frequência suficiente para merecer atenção especial — especialmente porque combina risc... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,761 | 10,503 | pt-br |
**A Importância do Contexto no Compartilhamento de Links: Por Que o Formato Longo do Google+ Enriquece a Experiência Informativa**
Em uma era definida pela sobrecarga de informação e pela velocidade do scroll, o simples ato de compartilhar um link tornou-se um dos gestos mais comuns — e, paradoxalmente, mais vazios — ... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,313 | 8,409 | pt-br |
**As Reformas Militares do Ministro Albrecht von Roon na Prússia e a Reorganização do Corpo de Exército Antes da Guerra Austro-Prussiana de 1866**
A Guerra Austro-Prussiana de 1866, frequentemente designada como a *Sete-Semanas*, não foi apenas um conflito armado entre duas potências alemãs rivais; foi o desfecho de u... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,337 | 8,780 | pt-br |
**A Aplicação da Análise Comportamental Organizacional no Setor Aeroespacial: Caminho para uma Segurança e Eficiência Operacional Elevadas**
No coração do setor aeroespacial, onde a margem para erro é quase nula e cada decisão pode ter consequências de vida ou morte, a tecnologia avançada e os rigorosos protocolos téc... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,475 | 9,658 | pt-br |
**Como o Uso de Fitas Educacionais como First Frets e Don’t Fret Melhora a Precisão Técnica em Alunos Iniciantes de Viola e Violoncelo**
O ensino de instrumentos de cordas frotadas, como a viola e o violoncelo, apresenta desafios únicos para iniciantes, sobretudo na construção de uma técnica sólida e confiável. Difere... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 2,017 | 13,070 | pt-br |
**O Papel do Mestre do Jogo (DM) em RPGs de Mesa: Criação de Narrativas, Mediação e Desafios Práticos**
Nos últimos anos, os jogos de RPG de mesa (Role-Playing Games) deixaram de ser apenas um hobby de nicho para se tornarem um fenômeno cultural amplamente reconhecido. Séries como *Stranger Things*, podcasts populares... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,969 | 12,184 | pt-br |
**Ruby Wrapper para Integração com ClamAV: Como Criar uma Camada de Segurança em Aplicações Rails Usando o Protocolo ClamD**
A segurança de aplicações web não se limita a autenticação, autorização e criptografia de dados em trânsito ou em repouso. Uma camada frequentemente subestimada, mas crítica, é a detecção de mal... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,501 | 11,429 | pt-br |
**A Presença e Contribuição do Islam no Caribe: O Caso Específico de Trinidad & Tobago**
O Caribe, frequentemente associado a imagens de praias paradisíacas, ritmos musicais vibrantes e uma cultura marcada pela mistura de influências africanas, europeias e indígenas, também abriga uma presença significativa, embora me... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,862 | 12,726 | pt-br |
***. But the task is to just run a summary. We'll assume we can run the script and capture output.
We'll read the script to understand what it does, then maybe run it and summarize.
But note: The user wants an article? Actually the instruction: "Desarrollar article editorial about: Comparativo entre los modelos N-Ser... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 124 | 822 | pt-br |
**Aprender a língua e a cultura do parceiro: como o esforço genuíno fortalece relacionamentos interculturais**
Em um mundo cada vez mais interconectado, os relacionamentos interculturais deixaram de ser exceção para se tornar uma realidade comum. Casais formados por pessoas de origens diferentes trazem consigo não ape... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 335 | 2,090 | pt-br |
**Otimização de Custos Logísticos: Estratégias para Reduzir Despesas de Distribuição em Operações de Manufatura**
A logística, frequentemente vista como um custo necessário, pode ser transformada em um diferencial competitivo quando estrategicamente otimizada. Em operações de manufatura, onde margens de lucro são freq... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 835 | 5,623 | pt-br |
**O Impacto Cultural e Turístico do Ano do Carneiro no Aumento de Visitas a Cafés Temáticos na Ásia**
O calendário lunar chinês, com seus ciclos de doze animais do zodíaco, não é apenas um marcador de tempo: ele é um fenômeno cultural que pulsa nas ruas, nas casas e, cada vez mais, nos estabelecimentos comerciais da Á... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 794 | 5,070 | pt-br |
**A Construção da Memória do Holocausto na Europa Oriental: Entre Resistência Comunista e Apagamento do Sofrimento Judaico**
A memória do Holocausto na Europa Oriental não se desenvolveu como um simples reflexo histórico dos eventos de 1941 a 1945, mas como um campo de batalha ideológico, político e simbólico, marcado... | v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b | synthetic | 1,063 | 7,177 | pt-br |
Corpus PT-BR v2
Um corpus em Portugues Brasileiro voltado para pre-treinamento, continuacao de pre-treinamento e fine-tuning de LLMs. Esta versao mantem a base e o pipeline geral do Madras1/corpus-ptbr-v1, com uma expansao adicional da camada sintetica gerada principalmente por modelos Mistral.
O que mudou na v2
A v2 preserva o desenho da v1 e adiciona um novo bloco sintetico local:
| Componente novo | Valor |
|---|---|
| Documentos sinteticos adicionados | 371,002 |
| Palavras adicionadas | 590,143,768 |
| Tokens estimados adicionados | ~767,186,898 |
| Tamanho JSONL local original | ~4.01 GB |
| Tamanho Parquet do incremento | ~1.53 GB |
| Shards Parquet novos | 4 |
| Provider principal | Mistral |
| Modelos principais | mistral-small-latest, mistral-medium-latest |
Estatisticas estimadas
As estatisticas abaixo combinam os numeros publicos da v1 com o novo bloco sintetico local convertido para Parquet.
| Metrica | Valor |
|---|---|
| Total de documentos | ~8,770,859 |
| Total de palavras | ~5.43B |
| Tokens estimados | ~7.06B |
| Idioma | Portugues Brasileiro (pt-br) |
| Licenca | ODC-By 1.0 |
Subsets
| Subset | Documentos | Palavras | Tokens estimados |
|---|---|---|---|
real |
6,813,702 | ~4.10B | ~5.33B |
synthetic |
~1,957,157 | ~1.33B | ~1.73B |
Fontes
Subset real
Dados de pretraining limpos e filtrados de fontes publicas, herdados da v1:
| Fonte | Documentos | Descricao |
|---|---|---|
c4_pt |
3,070,868 | Common Crawl (C4), subset em portugues |
fineweb2_pt |
3,742,834 | FineWeb2 filtrado para portugues |
Subset synthetic
A v2 inclui todo o conjunto sintetico da v1 e adiciona 371,002 documentos gerados localmente em abril/maio de 2026.
Novo bloco v2:
| Provider/model | Documentos |
|---|---|
mistral-small-latest |
288,189 |
mistral-medium-latest |
74,407 |
nvidia/nemotron-3-super-120b-a12b |
8,406 |
Nos shards v2, o campo source representa a origem sintetica normalizada:
source |
Significado |
|---|---|
v2_synthetic_mistral_small_latest |
Texto sintetico gerado com Mistral Small |
v2_synthetic_mistral_medium_latest |
Texto sintetico gerado com Mistral Medium |
v2_synthetic_openrouter_nvidia_nemotron_3_super_120b_a12b |
Texto sintetico gerado via OpenRouter/Nemotron |
Schema
O schema principal foi mantido compativel com a v1 para permitir carregamento como um unico split train.
| Campo | Tipo | Descricao |
|---|---|---|
text |
string |
Conteudo do documento |
source |
string |
Fonte/origem normalizada |
subset |
string |
real ou synthetic |
word_count |
int32 |
Contagem de palavras |
char_count |
int32 |
Contagem de caracteres |
language |
string |
pt-br |
Como usar
from datasets import load_dataset
ds = load_dataset("Madras1/corpus-ptbr-v2", split="train", streaming=True)
for row in ds.take(1):
print(row["text"][:500])
Para filtrar apenas a camada sintetica:
from datasets import load_dataset
ds = load_dataset("Madras1/corpus-ptbr-v2", split="train", streaming=True)
synthetic = (row for row in ds if row["subset"] == "synthetic")
Limitações
- Dados sinteticos podem conter alucinacoes factuais.
- O subset real herda vieses, ruidos e limitacoes das fontes originais.
- O corpus nao deve ser tratado como fonte factual autoritativa.
- Estimativas de tokens usam fator aproximado de
1.3xsobre contagem de palavras. - A v2 aumenta a proporcao de texto sintetico; para pre-treinamento mais conservador, recomenda-se misturar pesos por
subsetesource.
Licenca e termos
O Corpus PT-BR v2 e distribuido sob ODC-By 1.0, seguindo a base da v1. O subset sintetico contem outputs de modelos de linguagem e deve ser usado com atencao aos termos dos provedores usados na geracao. Segundo a documentacao publica da Mistral AI, usuarios possuem seus outputs ate onde permitido pela lei aplicavel, mas continuam responsaveis por avaliar precisao, adequacao e direitos de uso do conteudo gerado.
Citacao
@dataset{madras1_corpus_ptbr_v2,
title = {Corpus PT-BR v2},
author = {Gabriel Yogi},
year = {2026},
publisher = {Hugging Face},
url = {https://huggingface.co/datasets/Madras1/corpus-ptbr-v2}
}
Autor
Gabriel Yogi (MadrasLe) - Hugging Face
- Downloads last month
- 19