Dataset Preview
Duplicate
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed because of a cast error
Error code:   DatasetGenerationCastError
Exception:    DatasetGenerationCastError
Message:      An error occurred while generating the dataset

All the data files must have the same columns, but at some point there are 1 new columns ({'file_text'})

This happened while the json dataset builder was generating data using

gzip://jawiki-20241007-cirrussearch-content.json::hf://datasets/ce-lery/dataset_archive@a85529648f117bcce80a5df31d314ad5f64a88fa/jawiki-20241007-cirrussearch-content.json.gz

Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1870, in _prepare_split_single
                  writer.write_table(table)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 622, in write_table
                  pa_table = table_cast(pa_table, self._schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2292, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2240, in cast_table_to_schema
                  raise CastError(
              datasets.table.CastError: Couldn't cast
              index: struct<_type: string, _id: string>
                child 0, _type: string
                child 1, _id: string
              template: list<item: string>
                child 0, item: string
              content_model: string
              opening_text: string
              wiki: string
              auxiliary_text: list<item: string>
                child 0, item: string
              language: string
              title: string
              score: double
              page_id: int64
              create_timestamp: timestamp[s]
              weighted_tags: list<item: string>
                child 0, item: string
              text: string
              defaultsort: string
              timestamp: timestamp[s]
              redirect: list<item: struct<namespace: int64, title: string>>
                child 0, item: struct<namespace: int64, title: string>
                    child 0, namespace: int64
                    child 1, title: string
              wikibase_item: string
              heading: list<item: string>
                child 0, item: string
              source_text: string
              coordinates: list<item: struct<country: string, coord: struct<lon: double, lat: double>, globe: string, dim: int64, type: string, primary: bool, region: string, name: string>>
                child 0, item: struct<country: string, coord: struct<lon: double, lat: double>, globe: string, dim: int64, type: string, primary: bool, region: string, name: string>
                    child 0, country: string
                    child 1, coord: struct<lon: double, lat: double>
                        child 0, lon: double
                        child 1, lat: double
                    child 2, globe: string
                    child 3, dim: int64
                    child 4, type: string
                    child 5, primary: bool
                    child 6, region: string
                    child 7, name: string
              version: int64
              external_link: list<item: string>
                child 0, item: string
              namespace_text: string
              namespace: int64
              text_bytes: int64
              incoming_links: int64
              category: list<item: string>
                child 0, item: string
              outgoing_link: list<item: string>
                child 0, item: string
              popularity_score: double
              display_title: null
              file_text: null
              to
              {'index': {'_type': Value(dtype='string', id=None), '_id': Value(dtype='string', id=None)}, 'template': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'content_model': Value(dtype='string', id=None), 'wiki': Value(dtype='string', id=None), 'opening_text': Value(dtype='string', id=None), 'auxiliary_text': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'language': Value(dtype='string', id=None), 'title': Value(dtype='string', id=None), 'page_id': Value(dtype='int64', id=None), 'create_timestamp': Value(dtype='timestamp[s]', id=None), 'weighted_tags': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'text': Value(dtype='string', id=None), 'defaultsort': Value(dtype='string', id=None), 'timestamp': Value(dtype='timestamp[s]', id=None), 'redirect': [{'namespace': Value(dtype='int64', id=None), 'title': Value(dtype='string', id=None)}], 'wikibase_item': Value(dtype='string', id=None), 'heading': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'source_text': Value(dtype='string', id=None), 'coordinates': [{'country': Value(dtype='string', id=None), 'coord': {'lon': Value(dtype='float64', id=None), 'lat': Value(dtype='float64', id=None)}, 'globe': Value(dtype='string', id=None), 'name': Value(dtype='string', id=None), 'dim': Value(dtype='int64', id=None), 'type': Value(dtype='string', id=None), 'primary': Value(dtype='bool', id=None), 'region': Value(dtype='string', id=None)}], 'version': Value(dtype='int64', id=None), 'external_link': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'namespace_text': Value(dtype='string', id=None), 'namespace': Value(dtype='int64', id=None), 'text_bytes': Value(dtype='int64', id=None), 'incoming_links': Value(dtype='int64', id=None), 'category': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'outgoing_link': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'popularity_score': Value(dtype='float64', id=None), 'score': Value(dtype='float64', id=None), 'display_title': Value(dtype='null', id=None)}
              because column names don't match
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1412, in compute_config_parquet_and_info_response
                  parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 988, in stream_convert_to_parquet
                  builder._prepare_split(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1741, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1872, in _prepare_split_single
                  raise DatasetGenerationCastError.from_cast_error(
              datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
              
              All the data files must have the same columns, but at some point there are 1 new columns ({'file_text'})
              
              This happened while the json dataset builder was generating data using
              
              gzip://jawiki-20241007-cirrussearch-content.json::hf://datasets/ce-lery/dataset_archive@a85529648f117bcce80a5df31d314ad5f64a88fa/jawiki-20241007-cirrussearch-content.json.gz
              
              Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

index
dict
template
sequence
content_model
string
wiki
string
opening_text
string
auxiliary_text
sequence
language
string
title
string
page_id
int64
create_timestamp
timestamp[us]
weighted_tags
sequence
text
string
defaultsort
string
timestamp
timestamp[us]
redirect
list
wikibase_item
string
heading
sequence
source_text
string
coordinates
list
version
int64
external_link
sequence
namespace_text
string
namespace
int64
text_bytes
int64
incoming_links
int64
category
sequence
outgoing_link
sequence
popularity_score
float64
score
null
display_title
null
{ "_type": "_doc", "_id": "10" }
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
[ "Template:仮リンク", "Template:言語学", "Template:Sidebar with heading backgrounds", "Template:Sidebar", "Template:Flatlist", "Template:Icon", "Template:Hlist/styles.css", "Template:Sidebar with heading backgrounds/styles.css", "Template:Main", "Template:Rellink", "Template:See/core", "Template:See a...
wikitext
jawiki
言語(げんご)は、狭義には「声による記号の体系」を指す。広義にはverbalな(言葉に表す)ものとnon-verbalな(言葉として表されない)もの(各種記号、アイコン、図形、ボディーランゲージ等)の両方が含まれる。日常のコミュニケーションでは、狭義の言語表現に身振り、手振り、図示、擬音等も加えて表現されることも多い。 広辞苑や大辞泉には、次のように解説されている。 人間が音声や文字を用いて思想・感情・意志等々を伝達するために用いる記号体系。およびそれを用いる行為(広辞苑)。音声や文字によって、人の意志・思想・感情などの情報を表現したり伝達する、あるいは他者のそれを受け入れ、理解するための約束・規則。および、そうした記号の体系(大辞...
[ "メキシコ、テオティワカンの壁画(2世紀頃)。口からスピーチを象徴するスピーチの巻物(英語版)を発する人物が描かれている。", "世界の言語分布図", "世界の言語の分布図", "言語学 基礎分野 音声学 音韻論 形態論 統語論 意味論 語用論 個別言語学 言語の変化と変異 歴史言語学 比較言語学 言語地理学 言語系統論 言語年代学 言語類型論 社会言語学 方言学 理論 生成言語学 認知言語学 応用分野 応用言語学 対照言語学 言語人類学 心理言語学 神経言語学 生物言語学 計算言語学 計量言語学 LGBTQ言語学 法言語学 言語獲得 言語の起源 関連項目 言語 言語学者 ポータル カテゴリ 表 話 編 歴", ...
ja
言語
10
2002-09-10T19:25:48
[ "classification.ores.articletopic/Culture.Linguistics|989", "recommendation.image_section/exists|1" ]
言語(げんご)は、狭義には「声による記号の体系」を指す。広義にはverbalな(言葉に表す)ものとnon-verbalな(言葉として表されない)もの(各種記号、アイコン、図形、ボディーランゲージ等)の両方が含まれる。日常のコミュニケーションでは、狭義の言語表現に身振り、手振り、図示、擬音等も加えて表現されることも多い。 広辞苑や大辞泉には、次のように解説されている。 人間が音声や文字を用いて思想・感情・意志等々を伝達するために用いる記号体系。およびそれを用いる行為(広辞苑)。音声や文字によって、人の意志・思想・感情などの情報を表現したり伝達する、あるいは他者のそれを受け入れ、理解するための約束・規則。および、そうした記号の体系(大辞...
けんこ
2024-10-02T09:43:18
[ { "namespace": 0, "title": "ランゲージ" }, { "namespace": 0, "title": "各国語" }, { "namespace": 0, "title": "同一言語" } ]
Q315
[ "概説", "分類", "言語の変遷", "歴史", "起源", "変化", "世界の言語", "話者数の統計順位", "母語話者統計で見た話者数", "母語話者数と総話者数の差", "言語と国家", "公用語、共通語、民族語", "言語の生物学", "言語に関する脳の領域", "ヒトの発達における言語機能の獲得", "脚注", "注釈", "出典", "関連項目", "外部リンク" ]
[[File:Tepantitla mural, Ballplayer A (Daquella manera).jpg|thumb|[[メキシコ]]、[[テオティワカン]]の[[壁画]]([[2世紀]]頃)。口から[[スピーチ]]を象徴する{{仮リンク|スピーチの巻物|en|Speech scroll}}を発する人物が描かれている。]] '''言語'''(げんご)は、[[狭義]]には「[[声]]による[[記号]]の[[体系]]」を指す<ref name="yamamoto" />。[[広義]]にはverbalな([[言葉]]に表す)ものとnon-verbalな(言葉として表されない)もの(各種記号、[[アイコン]]、[[図形]]、[...
[]
102,059,746
[ "http://www.jsik.jp/?plugin=attach&refer=TableofContents1&openfile=KJ00002113963.pdf", "http://www.ncbi.nlm.nih.gov/pubmed/11586359?dopt=Abstract", "http://www.sciencedirect.com/science?_ob=ArticleURL&_udi=B6VRT-4PXN9TN-5&_user=10&_rdoc=1&_fmt=&_orig=search&_sort=d&view=c&_acct=C000050221&_version=1&_urlVersion...
0
40,257
3,219
[ "ISBNマジックリンクを使用しているページ", "外部リンクがリンク切れになっている記事/2020年6月", "BNF識別子が指定されている記事", "BNFdata識別子が指定されている記事", "GND識別子が指定されている記事", "J9U識別子が指定されている記事", "LCCN識別子が指定されている記事", "LNB識別子が指定されている記事", "NDL識別子が指定されている記事", "NKC識別子が指定されている記事", "言語", "言語学", "民族" ]
[ "スピーチの巻物", "言語中枢", "動物の言語", "17世紀", "1848年", "1938年", "1939年", "1956年", "1970年", "1970年代", "1979年", "19世紀", "2006年", "2010年", "2世紀", "FOXP2", "LGBTQ言語学", "アイコン", "アイスランド語", "アイデンティティ", "アフリカ大陸", "アメリカ合衆国", "アラビア語", "アラブ", "アルゼンチン", "アルバニア語", "アルメニア語", "アンダマン諸島",...
0.000007
null
null
{ "_type": "_doc", "_id": "100" }
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
["Template:Redirect","Template:Dablink","Template:Hatnote","Template:Hatnote/styles.css","Template:S(...TRUNCATED)
wikitext
jawiki
"インドネシア共和国 Republik Indonesia 国の標語:Bhinneka Tunggal lka 古ジャワ語:(...TRUNCATED)
["海のシルクロードは、インドとインドネシアを接続した。","18世紀のバタ(...TRUNCATED)
ja
インドネシア
100
2003-01-31T11:40:02
["classification.ores.articletopic/Geography.Regions.Asia.Southeast_Asia|932","classification.ores.a(...TRUNCATED)
"インドネシア共和国 Republik Indonesia 国の標語:Bhinneka Tunggal lka 古ジャワ語:(...TRUNCATED)
いんとねしあ
2024-09-29T15:57:34
[{"namespace":0,"title":"インドネシア共和国"},{"namespace":0,"title":"インドネシア諸(...TRUNCATED)
Q252
["国名","国旗","歴史","石器時代","王国時代","オランダ統治開始","独立運動",(...TRUNCATED)
"{{redirect|インドネシア共和国|1949年から1950年にかけて存在したインドネシ(...TRUNCATED)
[{"country":"ID","coord":{"lon":106.82833333333333,"lat":-6.175},"globe":"earth","name":"インド(...TRUNCATED)
102,028,054
["https://www.bps.go.id/pressrelease/2021/01/21/1854/hasil-sensus-penduduk-2020.html","http://data.u(...TRUNCATED)
0
128,049
10,410
["サイズに余分なpxが含まれる画像が指定されているページ","外部リンクが(...TRUNCATED)
["マアルフ・アミン","バンバン・スサティヨ","ラ・ニャッラ・マッタリッ(...TRUNCATED)
0.000031
null
null
{ "_type": "_doc", "_id": "10000" }
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
["Template:年代ナビ","Template:Infobox","Template:Year-definition","Template:Beginning-dow-of-ye(...TRUNCATED)
wikitext
jawiki
"1726年(1726 ねん)は、西暦(グレゴリオ暦)による、火曜日から始まる平(...TRUNCATED)
["千年紀: 2千年紀 世紀: 17世紀 - 18世紀 - 19世紀 十年紀: 1700年代 1710年代 1720(...TRUNCATED)
ja
1726年
10,000
2003-06-13T23:33:59
[ "classification.ores.articletopic/History and Society.History|640" ]
"1726年(1726 ねん)は、西暦(グレゴリオ暦)による、火曜日から始まる平(...TRUNCATED)
1726ねん
2021-04-03T02:45:08
[]
Q6936
[ "他の紀年法", "カレンダー", "できごと", "誕生", "死去", "関連項目" ]
"{{年代ナビ|1726}}\n{{year-definition|1726}}\n\n== 他の紀年法 ==\n{{他の紀年法}}\n* [[(...TRUNCATED)
[]
82,794,026
[ "https://commons.wikimedia.org/wiki/Category:1726?uselang=ja" ]
0
1,750
782
[ "出典を必要とする記述のある記事/2021年4月", "1726年" ]
["Category:出典を必要とする記述のある記事/2021年4月","Category:1726年没","Categor(...TRUNCATED)
0
null
null
{ "_type": "_doc", "_id": "1000000" }
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
["Template:世界遺産概要表","Template:Infobox","Template:Ifempty","Template:PAGENAMEBASE","Tem(...TRUNCATED)
wikitext
jawiki
"アムステルダムの防塞線(アムステルダムのぼうさいせん)は、オランダ(...TRUNCATED)
["ナールデンの要塞 英名 Dutch Water Defence Lines 仏名 Lignes d’eau de défense hollan(...TRUNCATED)
ja
アムステルダムの防塞線
1,000,000
2007-05-07T13:45:35
["classification.ores.articletopic/Geography.Regions.Europe.Western Europe|755","classification.ores(...TRUNCATED)
"アムステルダムの防塞線(アムステルダムのぼうさいせん)は、オランダ(...TRUNCATED)
あむすてるたむのほうさいせん
2022-12-15T06:01:49
[ { "namespace": 0, "title": "アムステルダムのディフェンス・ライン" } ]
Q855003
["機能","建造","運営","防塞線の42の要塞","北部前線","北西部前線","西部前線(...TRUNCATED)
"{{世界遺産概要表\n|site_img = File:Naarden kl Bijgewerkt.jpg\n|site_img_capt = ナールデ(...TRUNCATED)
[]
92,908,123
["https://www.wikidata.org/wiki/Q855003#identifiers","https://whc.unesco.org/en/list/759/","https://(...TRUNCATED)
0
6,118
28
["VIAF識別子が指定されている記事","オランダの要塞","世界遺産 あ行","オラ(...TRUNCATED)
["モジュール:Location_map/data/Netherlands","Category:VIAF識別子が指定されている記(...TRUNCATED)
0
null
null
{ "_type": "_doc", "_id": "1000003" }
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
null
["Template:世界遺産概要表","Template:Infobox","Template:Ifempty","Template:PAGENAMEBASE","Tem(...TRUNCATED)
wikitext
jawiki
"ベームスター干拓地は、オランダ北西部北ホラント州の都市ベームスター(...TRUNCATED)
["1869年のベームスターの地図。干拓当時の区画がはっきりとわかる 英名 Dr(...TRUNCATED)
ja
ベームスター干拓地
1,000,003
2007-05-07T13:47:38
["classification.ores.articletopic/Culture.Visual_arts.Architecture|615","classification.ores.articl(...TRUNCATED)
"ベームスター干拓地は、オランダ北西部北ホラント州の都市ベームスター(...TRUNCATED)
へえむすたあかんたくち
2023-10-12T04:56:09
[]
Q9900
[ "位置", "登録基準" ]
"{{世界遺産概要表\n|site_img = File:Gem-Beemster-OpenTopo.jpg\n|site_img_capt = 1869年のベ(...TRUNCATED)
[]
97,370,003
["https://whc.unesco.org/en/list/899/","https://whc.unesco.org/en/criteria","https://commons.wikimed(...TRUNCATED)
0
2,459
27
["オランダの世界遺産","世界遺産 は行","土木史","1999年登録の世界遺産","産(...TRUNCATED)
["Template:世界遺産概要表","Template:オランダの世界遺産","Ir.D.F.ヴァウダヘマ(...TRUNCATED)
0
null
null
End of preview.

No dataset card yet

Downloads last month
6