Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed because of a cast error
Error code: DatasetGenerationCastError
Exception: DatasetGenerationCastError
Message: An error occurred while generating the dataset
All the data files must have the same columns, but at some point there are 1 new columns ({'file_text'})
This happened while the json dataset builder was generating data using
gzip://jawiki-20241007-cirrussearch-content.json::hf://datasets/ce-lery/dataset_archive@a85529648f117bcce80a5df31d314ad5f64a88fa/jawiki-20241007-cirrussearch-content.json.gz
Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback: Traceback (most recent call last):
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1870, in _prepare_split_single
writer.write_table(table)
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 622, in write_table
pa_table = table_cast(pa_table, self._schema)
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2292, in table_cast
return cast_table_to_schema(table, schema)
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2240, in cast_table_to_schema
raise CastError(
datasets.table.CastError: Couldn't cast
index: struct<_type: string, _id: string>
child 0, _type: string
child 1, _id: string
template: list<item: string>
child 0, item: string
content_model: string
opening_text: string
wiki: string
auxiliary_text: list<item: string>
child 0, item: string
language: string
title: string
score: double
page_id: int64
create_timestamp: timestamp[s]
weighted_tags: list<item: string>
child 0, item: string
text: string
defaultsort: string
timestamp: timestamp[s]
redirect: list<item: struct<namespace: int64, title: string>>
child 0, item: struct<namespace: int64, title: string>
child 0, namespace: int64
child 1, title: string
wikibase_item: string
heading: list<item: string>
child 0, item: string
source_text: string
coordinates: list<item: struct<country: string, coord: struct<lon: double, lat: double>, globe: string, dim: int64, type: string, primary: bool, region: string, name: string>>
child 0, item: struct<country: string, coord: struct<lon: double, lat: double>, globe: string, dim: int64, type: string, primary: bool, region: string, name: string>
child 0, country: string
child 1, coord: struct<lon: double, lat: double>
child 0, lon: double
child 1, lat: double
child 2, globe: string
child 3, dim: int64
child 4, type: string
child 5, primary: bool
child 6, region: string
child 7, name: string
version: int64
external_link: list<item: string>
child 0, item: string
namespace_text: string
namespace: int64
text_bytes: int64
incoming_links: int64
category: list<item: string>
child 0, item: string
outgoing_link: list<item: string>
child 0, item: string
popularity_score: double
display_title: null
file_text: null
to
{'index': {'_type': Value(dtype='string', id=None), '_id': Value(dtype='string', id=None)}, 'template': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'content_model': Value(dtype='string', id=None), 'wiki': Value(dtype='string', id=None), 'opening_text': Value(dtype='string', id=None), 'auxiliary_text': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'language': Value(dtype='string', id=None), 'title': Value(dtype='string', id=None), 'page_id': Value(dtype='int64', id=None), 'create_timestamp': Value(dtype='timestamp[s]', id=None), 'weighted_tags': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'text': Value(dtype='string', id=None), 'defaultsort': Value(dtype='string', id=None), 'timestamp': Value(dtype='timestamp[s]', id=None), 'redirect': [{'namespace': Value(dtype='int64', id=None), 'title': Value(dtype='string', id=None)}], 'wikibase_item': Value(dtype='string', id=None), 'heading': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'source_text': Value(dtype='string', id=None), 'coordinates': [{'country': Value(dtype='string', id=None), 'coord': {'lon': Value(dtype='float64', id=None), 'lat': Value(dtype='float64', id=None)}, 'globe': Value(dtype='string', id=None), 'name': Value(dtype='string', id=None), 'dim': Value(dtype='int64', id=None), 'type': Value(dtype='string', id=None), 'primary': Value(dtype='bool', id=None), 'region': Value(dtype='string', id=None)}], 'version': Value(dtype='int64', id=None), 'external_link': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'namespace_text': Value(dtype='string', id=None), 'namespace': Value(dtype='int64', id=None), 'text_bytes': Value(dtype='int64', id=None), 'incoming_links': Value(dtype='int64', id=None), 'category': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'outgoing_link': Sequence(feature=Value(dtype='string', id=None), length=-1, id=None), 'popularity_score': Value(dtype='float64', id=None), 'score': Value(dtype='float64', id=None), 'display_title': Value(dtype='null', id=None)}
because column names don't match
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1412, in compute_config_parquet_and_info_response
parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 988, in stream_convert_to_parquet
builder._prepare_split(
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1741, in _prepare_split
for job_id, done, content in self._prepare_split_single(
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1872, in _prepare_split_single
raise DatasetGenerationCastError.from_cast_error(
datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
All the data files must have the same columns, but at some point there are 1 new columns ({'file_text'})
This happened while the json dataset builder was generating data using
gzip://jawiki-20241007-cirrussearch-content.json::hf://datasets/ce-lery/dataset_archive@a85529648f117bcce80a5df31d314ad5f64a88fa/jawiki-20241007-cirrussearch-content.json.gz
Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
index dict | template sequence | content_model string | wiki string | opening_text string | auxiliary_text sequence | language string | title string | page_id int64 | create_timestamp timestamp[us] | weighted_tags sequence | text string | defaultsort string | timestamp timestamp[us] | redirect list | wikibase_item string | heading sequence | source_text string | coordinates list | version int64 | external_link sequence | namespace_text string | namespace int64 | text_bytes int64 | incoming_links int64 | category sequence | outgoing_link sequence | popularity_score float64 | score null | display_title null |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
{
"_type": "_doc",
"_id": "10"
} | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null |
null | [
"Template:仮リンク",
"Template:言語学",
"Template:Sidebar with heading backgrounds",
"Template:Sidebar",
"Template:Flatlist",
"Template:Icon",
"Template:Hlist/styles.css",
"Template:Sidebar with heading backgrounds/styles.css",
"Template:Main",
"Template:Rellink",
"Template:See/core",
"Template:See a... | wikitext | jawiki | 言語(げんご)は、狭義には「声による記号の体系」を指す。広義にはverbalな(言葉に表す)ものとnon-verbalな(言葉として表されない)もの(各種記号、アイコン、図形、ボディーランゲージ等)の両方が含まれる。日常のコミュニケーションでは、狭義の言語表現に身振り、手振り、図示、擬音等も加えて表現されることも多い。 広辞苑や大辞泉には、次のように解説されている。 人間が音声や文字を用いて思想・感情・意志等々を伝達するために用いる記号体系。およびそれを用いる行為(広辞苑)。音声や文字によって、人の意志・思想・感情などの情報を表現したり伝達する、あるいは他者のそれを受け入れ、理解するための約束・規則。および、そうした記号の体系(大辞... | [
"メキシコ、テオティワカンの壁画(2世紀頃)。口からスピーチを象徴するスピーチの巻物(英語版)を発する人物が描かれている。",
"世界の言語分布図",
"世界の言語の分布図",
"言語学 基礎分野 音声学 音韻論 形態論 統語論 意味論 語用論 個別言語学 言語の変化と変異 歴史言語学 比較言語学 言語地理学 言語系統論 言語年代学 言語類型論 社会言語学 方言学 理論 生成言語学 認知言語学 応用分野 応用言語学 対照言語学 言語人類学 心理言語学 神経言語学 生物言語学 計算言語学 計量言語学 LGBTQ言語学 法言語学 言語獲得 言語の起源 関連項目 言語 言語学者 ポータル カテゴリ 表 話 編 歴",
... | ja | 言語 | 10 | 2002-09-10T19:25:48 | [
"classification.ores.articletopic/Culture.Linguistics|989",
"recommendation.image_section/exists|1"
] | 言語(げんご)は、狭義には「声による記号の体系」を指す。広義にはverbalな(言葉に表す)ものとnon-verbalな(言葉として表されない)もの(各種記号、アイコン、図形、ボディーランゲージ等)の両方が含まれる。日常のコミュニケーションでは、狭義の言語表現に身振り、手振り、図示、擬音等も加えて表現されることも多い。 広辞苑や大辞泉には、次のように解説されている。 人間が音声や文字を用いて思想・感情・意志等々を伝達するために用いる記号体系。およびそれを用いる行為(広辞苑)。音声や文字によって、人の意志・思想・感情などの情報を表現したり伝達する、あるいは他者のそれを受け入れ、理解するための約束・規則。および、そうした記号の体系(大辞... | けんこ | 2024-10-02T09:43:18 | [
{
"namespace": 0,
"title": "ランゲージ"
},
{
"namespace": 0,
"title": "各国語"
},
{
"namespace": 0,
"title": "同一言語"
}
] | Q315 | [
"概説",
"分類",
"言語の変遷",
"歴史",
"起源",
"変化",
"世界の言語",
"話者数の統計順位",
"母語話者統計で見た話者数",
"母語話者数と総話者数の差",
"言語と国家",
"公用語、共通語、民族語",
"言語の生物学",
"言語に関する脳の領域",
"ヒトの発達における言語機能の獲得",
"脚注",
"注釈",
"出典",
"関連項目",
"外部リンク"
] | [[File:Tepantitla mural, Ballplayer A (Daquella manera).jpg|thumb|[[メキシコ]]、[[テオティワカン]]の[[壁画]]([[2世紀]]頃)。口から[[スピーチ]]を象徴する{{仮リンク|スピーチの巻物|en|Speech scroll}}を発する人物が描かれている。]]
'''言語'''(げんご)は、[[狭義]]には「[[声]]による[[記号]]の[[体系]]」を指す<ref name="yamamoto" />。[[広義]]にはverbalな([[言葉]]に表す)ものとnon-verbalな(言葉として表されない)もの(各種記号、[[アイコン]]、[[図形]]、[... | [] | 102,059,746 | [
"http://www.jsik.jp/?plugin=attach&refer=TableofContents1&openfile=KJ00002113963.pdf",
"http://www.ncbi.nlm.nih.gov/pubmed/11586359?dopt=Abstract",
"http://www.sciencedirect.com/science?_ob=ArticleURL&_udi=B6VRT-4PXN9TN-5&_user=10&_rdoc=1&_fmt=&_orig=search&_sort=d&view=c&_acct=C000050221&_version=1&_urlVersion... | 0 | 40,257 | 3,219 | [
"ISBNマジックリンクを使用しているページ",
"外部リンクがリンク切れになっている記事/2020年6月",
"BNF識別子が指定されている記事",
"BNFdata識別子が指定されている記事",
"GND識別子が指定されている記事",
"J9U識別子が指定されている記事",
"LCCN識別子が指定されている記事",
"LNB識別子が指定されている記事",
"NDL識別子が指定されている記事",
"NKC識別子が指定されている記事",
"言語",
"言語学",
"民族"
] | [
"スピーチの巻物",
"言語中枢",
"動物の言語",
"17世紀",
"1848年",
"1938年",
"1939年",
"1956年",
"1970年",
"1970年代",
"1979年",
"19世紀",
"2006年",
"2010年",
"2世紀",
"FOXP2",
"LGBTQ言語学",
"アイコン",
"アイスランド語",
"アイデンティティ",
"アフリカ大陸",
"アメリカ合衆国",
"アラビア語",
"アラブ",
"アルゼンチン",
"アルバニア語",
"アルメニア語",
"アンダマン諸島",... | 0.000007 | null | null | |
{
"_type": "_doc",
"_id": "100"
} | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null |
null | ["Template:Redirect","Template:Dablink","Template:Hatnote","Template:Hatnote/styles.css","Template:S(...TRUNCATED) | wikitext | jawiki | "インドネシア共和国 Republik Indonesia 国の標語:Bhinneka Tunggal lka 古ジャワ語:(...TRUNCATED) | ["海のシルクロードは、インドとインドネシアを接続した。","18世紀のバタ(...TRUNCATED) | ja | インドネシア | 100 | 2003-01-31T11:40:02 | ["classification.ores.articletopic/Geography.Regions.Asia.Southeast_Asia|932","classification.ores.a(...TRUNCATED) | "インドネシア共和国 Republik Indonesia 国の標語:Bhinneka Tunggal lka 古ジャワ語:(...TRUNCATED) | いんとねしあ | 2024-09-29T15:57:34 | [{"namespace":0,"title":"インドネシア共和国"},{"namespace":0,"title":"インドネシア諸(...TRUNCATED) | Q252 | ["国名","国旗","歴史","石器時代","王国時代","オランダ統治開始","独立運動",(...TRUNCATED) | "{{redirect|インドネシア共和国|1949年から1950年にかけて存在したインドネシ(...TRUNCATED) | [{"country":"ID","coord":{"lon":106.82833333333333,"lat":-6.175},"globe":"earth","name":"インド(...TRUNCATED) | 102,028,054 | ["https://www.bps.go.id/pressrelease/2021/01/21/1854/hasil-sensus-penduduk-2020.html","http://data.u(...TRUNCATED) | 0 | 128,049 | 10,410 | ["サイズに余分なpxが含まれる画像が指定されているページ","外部リンクが(...TRUNCATED) | ["マアルフ・アミン","バンバン・スサティヨ","ラ・ニャッラ・マッタリッ(...TRUNCATED) | 0.000031 | null | null | |
{
"_type": "_doc",
"_id": "10000"
} | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null |
null | ["Template:年代ナビ","Template:Infobox","Template:Year-definition","Template:Beginning-dow-of-ye(...TRUNCATED) | wikitext | jawiki | "1726年(1726 ねん)は、西暦(グレゴリオ暦)による、火曜日から始まる平(...TRUNCATED) | ["千年紀: 2千年紀 世紀: 17世紀 - 18世紀 - 19世紀 十年紀: 1700年代 1710年代 1720(...TRUNCATED) | ja | 1726年 | 10,000 | 2003-06-13T23:33:59 | [
"classification.ores.articletopic/History and Society.History|640"
] | "1726年(1726 ねん)は、西暦(グレゴリオ暦)による、火曜日から始まる平(...TRUNCATED) | 1726ねん | 2021-04-03T02:45:08 | [] | Q6936 | [
"他の紀年法",
"カレンダー",
"できごと",
"誕生",
"死去",
"関連項目"
] | "{{年代ナビ|1726}}\n{{year-definition|1726}}\n\n== 他の紀年法 ==\n{{他の紀年法}}\n* [[(...TRUNCATED) | [] | 82,794,026 | [
"https://commons.wikimedia.org/wiki/Category:1726?uselang=ja"
] | 0 | 1,750 | 782 | [
"出典を必要とする記述のある記事/2021年4月",
"1726年"
] | ["Category:出典を必要とする記述のある記事/2021年4月","Category:1726年没","Categor(...TRUNCATED) | 0 | null | null | |
{
"_type": "_doc",
"_id": "1000000"
} | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null |
null | ["Template:世界遺産概要表","Template:Infobox","Template:Ifempty","Template:PAGENAMEBASE","Tem(...TRUNCATED) | wikitext | jawiki | "アムステルダムの防塞線(アムステルダムのぼうさいせん)は、オランダ(...TRUNCATED) | ["ナールデンの要塞 英名 Dutch Water Defence Lines 仏名 Lignes d’eau de défense hollan(...TRUNCATED) | ja | アムステルダムの防塞線 | 1,000,000 | 2007-05-07T13:45:35 | ["classification.ores.articletopic/Geography.Regions.Europe.Western Europe|755","classification.ores(...TRUNCATED) | "アムステルダムの防塞線(アムステルダムのぼうさいせん)は、オランダ(...TRUNCATED) | あむすてるたむのほうさいせん | 2022-12-15T06:01:49 | [
{
"namespace": 0,
"title": "アムステルダムのディフェンス・ライン"
}
] | Q855003 | ["機能","建造","運営","防塞線の42の要塞","北部前線","北西部前線","西部前線(...TRUNCATED) | "{{世界遺産概要表\n|site_img = File:Naarden kl Bijgewerkt.jpg\n|site_img_capt = ナールデ(...TRUNCATED) | [] | 92,908,123 | ["https://www.wikidata.org/wiki/Q855003#identifiers","https://whc.unesco.org/en/list/759/","https://(...TRUNCATED) | 0 | 6,118 | 28 | ["VIAF識別子が指定されている記事","オランダの要塞","世界遺産 あ行","オラ(...TRUNCATED) | ["モジュール:Location_map/data/Netherlands","Category:VIAF識別子が指定されている記(...TRUNCATED) | 0 | null | null | |
{
"_type": "_doc",
"_id": "1000003"
} | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null | null |
null | ["Template:世界遺産概要表","Template:Infobox","Template:Ifempty","Template:PAGENAMEBASE","Tem(...TRUNCATED) | wikitext | jawiki | "ベームスター干拓地は、オランダ北西部北ホラント州の都市ベームスター(...TRUNCATED) | ["1869年のベームスターの地図。干拓当時の区画がはっきりとわかる 英名 Dr(...TRUNCATED) | ja | ベームスター干拓地 | 1,000,003 | 2007-05-07T13:47:38 | ["classification.ores.articletopic/Culture.Visual_arts.Architecture|615","classification.ores.articl(...TRUNCATED) | "ベームスター干拓地は、オランダ北西部北ホラント州の都市ベームスター(...TRUNCATED) | へえむすたあかんたくち | 2023-10-12T04:56:09 | [] | Q9900 | [
"位置",
"登録基準"
] | "{{世界遺産概要表\n|site_img = File:Gem-Beemster-OpenTopo.jpg\n|site_img_capt = 1869年のベ(...TRUNCATED) | [] | 97,370,003 | ["https://whc.unesco.org/en/list/899/","https://whc.unesco.org/en/criteria","https://commons.wikimed(...TRUNCATED) | 0 | 2,459 | 27 | ["オランダの世界遺産","世界遺産 は行","土木史","1999年登録の世界遺産","産(...TRUNCATED) | ["Template:世界遺産概要表","Template:オランダの世界遺産","Ir.D.F.ヴァウダヘマ(...TRUNCATED) | 0 | null | null |
End of preview.
No dataset card yet
- Downloads last month
- 6