Datasets:

Mosescreates
/

arabic-agent-eval

id string	category string	instruction string	dialect string	available_functions list	expected_calls list	difficulty string	error_response dict
simple_001	simple_function_calling	ابحث عن رحلات من الرياض إلى جدة يوم الخميس	msa	[ "search_flights", "book_hotel", "get_weather" ]	[ { "function": "search_flights", "arguments": { "from_city": "الرياض", "to_city": "جدة", "date": "الخميس" } } ]	easy	null
simple_002	simple_function_calling	كم درجة الحرارة في دبي اليوم؟	msa	[ "get_weather", "get_time", "get_news" ]	[ { "function": "get_weather", "arguments": { "city": "دبي" } } ]	easy	null
simple_003	simple_function_calling	احجز فندق في مكة من يوم ١٥ رمضان إلى ٢٠ رمضان لشخصين	msa	[ "book_hotel", "search_flights", "search_restaurants" ]	[ { "function": "book_hotel", "arguments": { "city": "مكة", "check_in": "١٥ رمضان", "check_out": "٢٠ رمضان", "guests": 2 } } ]	easy	null
simple_004	simple_function_calling	أريد أعرف مواقيت الصلاة في المدينة المنورة	msa	[ "get_prayer_times", "get_time", "get_weather" ]	[ { "function": "get_prayer_times", "arguments": { "city": "المدينة المنورة" } } ]	easy	null
simple_005	simple_function_calling	حوّل لي ألف دولار إلى ريال سعودي	msa	[ "convert_currency", "send_money", "get_stock_price" ]	[ { "function": "convert_currency", "arguments": { "amount": 1000, "from_currency": "USD", "to_currency": "SAR" } } ]	easy	null
simple_006	simple_function_calling	ابحث لي عن آية فيها كلمة الصبر	msa	[ "find_quran_verse", "translate_text", "get_news" ]	[ { "function": "find_quran_verse", "arguments": { "query": "الصبر" } } ]	easy	null
simple_007	simple_function_calling	كم سعر سهم أرامكو في تداول؟	msa	[ "get_stock_price", "convert_currency", "get_news" ]	[ { "function": "get_stock_price", "arguments": { "symbol": "2222", "market": "tadawul" } } ]	medium	null
simple_008	simple_function_calling	ذكّرني أدفع فاتورة الكهرباء بكرة الساعة عشر الصبح	msa	[ "set_reminder", "schedule_meeting", "send_message" ]	[ { "function": "set_reminder", "arguments": { "message": "دفع فاتورة الكهرباء", "datetime": "غداً الساعة 10 صباحاً" } } ]	medium	null
simple_009	simple_function_calling	احسب لي زكاة مبلغ خمسين ألف ريال نقداً	msa	[ "calculate_zakat", "convert_currency", "send_money" ]	[ { "function": "calculate_zakat", "arguments": { "amount": 50000, "currency": "SAR", "type": "cash" } } ]	easy	null
simple_010	simple_function_calling	ابحث عن وظائف مهندس برمجيات في الرياض دوام كامل	msa	[ "search_jobs", "schedule_meeting", "send_message" ]	[ { "function": "search_jobs", "arguments": { "title": "مهندس برمجيات", "city": "الرياض", "type": "full-time" } } ]	easy	null
param_001	parameter_extraction	أرسل رسالة لأحمد على الواتساب تقول له مبروك الترقية	msa	[ "send_message", "schedule_meeting" ]	[ { "function": "send_message", "arguments": { "recipient": "أحمد", "platform": "whatsapp", "message": "مبروك الترقية" } } ]	easy	null
param_002	parameter_extraction	اطلب لي شاورما ودجاج مشوي من مطعم البيك توصيل لحي العليا	msa	[ "order_food", "search_restaurants", "book_table" ]	[ { "function": "order_food", "arguments": { "restaurant": "البيك", "items": "شاورما ودجاج مشوي", "address": "حي العليا" } } ]	medium	null
param_003	parameter_extraction	رتّب لي اجتماع مع فريق التسويق يوم الأحد الساعة ٢ الظهر عنوانه مراجعة الحملة الإعلانية	msa	[ "schedule_meeting", "set_reminder", "send_message" ]	[ { "function": "schedule_meeting", "arguments": { "title": "مراجعة الحملة الإعلانية", "date": "الأحد", "time": "٢ الظهر", "participants": "فريق التسويق" } } ]	medium	null
param_004	parameter_extraction	حوّل ثلاثمئة يورو لليرة التركية	msa	[ "convert_currency", "send_money" ]	[ { "function": "convert_currency", "arguments": { "amount": 300, "from_currency": "EUR", "to_currency": "TRY" } } ]	medium	null
param_005	parameter_extraction	احجز طاولة لأربعة أشخاص في مطعم نصرت يوم الجمعة الساعة ٨ المساء	msa	[ "book_table", "search_restaurants", "order_food" ]	[ { "function": "book_table", "arguments": { "restaurant": "نصرت", "date": "الجمعة", "time": "٨ المساء", "guests": 4 } } ]	easy	null
param_006	parameter_extraction	حوّل لأخوي محمد مبلغ خمسمئة ريال	msa	[ "send_money", "convert_currency", "send_message" ]	[ { "function": "send_money", "arguments": { "recipient": "محمد", "amount": 500, "currency": "SAR" } } ]	easy	null
param_007	parameter_extraction	ترجم لي الجملة التالية من العربي للإنجليزي: السلام عليكم كيف حالكم	msa	[ "translate_text", "send_message" ]	[ { "function": "translate_text", "arguments": { "text": "السلام عليكم كيف حالكم", "from_lang": "ar", "to_lang": "en" } } ]	easy	null
param_008	parameter_extraction	احجز لي سيارة من المطار إلى فندق هيلتون	msa	[ "book_car", "get_traffic", "book_hotel" ]	[ { "function": "book_car", "arguments": { "pickup": "المطار", "destination": "فندق هيلتون", "type": "ride" } } ]	easy	null
multi_001	multi_step	احجز لي طاولة في أفضل مطعم في الرياض ثم أرسل الموقع لزوجتي سارة على الواتساب	msa	[ "search_restaurants", "book_table", "send_message" ]	[ { "function": "search_restaurants", "arguments": { "city": "الرياض" } }, { "function": "book_table", "arguments": { "restaurant": "*", "guests": 2 } }, { "function": "send_message", "arguments": { "recipient": "سارة", "platform": "whatsapp" }...	hard	null
multi_002	multi_step	شوف لي الطقس في إسطنبول وإذا حلو احجز لي رحلة من جدة	msa	[ "get_weather", "search_flights", "book_hotel" ]	[ { "function": "get_weather", "arguments": { "city": "إسطنبول" } }, { "function": "search_flights", "arguments": { "from_city": "جدة", "to_city": "إسطنبول" } } ]	hard	null
multi_003	multi_step	احسب زكاة مالي اللي هو عشرين ألف دولار وحوّلها لريال سعودي	msa	[ "calculate_zakat", "convert_currency" ]	[ { "function": "calculate_zakat", "arguments": { "amount": 20000, "currency": "USD" } }, { "function": "convert_currency", "arguments": { "from_currency": "USD", "to_currency": "SAR" } } ]	medium	null
multi_004	multi_step	ابحث عن مطعم سمك في جدة ثم اطلب لي سمك مشوي وروبيان توصيل للبيت	msa	[ "search_restaurants", "order_food", "get_traffic" ]	[ { "function": "search_restaurants", "arguments": { "city": "جدة", "cuisine": "سمك" } }, { "function": "order_food", "arguments": { "items": "سمك مشوي وروبيان" } } ]	medium	null
multi_005	multi_step	شوف حالة المرور من البيت للمكتب وإذا زحمة رتّب لي اجتماع أونلاين بدل الحضوري	msa	[ "get_traffic", "schedule_meeting", "send_message" ]	[ { "function": "get_traffic", "arguments": { "from_location": "البيت", "to_location": "المكتب" } }, { "function": "schedule_meeting", "arguments": { "title": "اجتماع أونلاين" } } ]	hard	null
multi_006	multi_step	ابحث لي عن رحلات من الدمام لدبي يوم السبت واحجز فندق هناك ليلتين	msa	[ "search_flights", "book_hotel", "get_weather" ]	[ { "function": "search_flights", "arguments": { "from_city": "الدمام", "to_city": "دبي", "date": "السبت" } }, { "function": "book_hotel", "arguments": { "city": "دبي" } } ]	medium	null
select_003	tool_selection	ابحث لي عن آية تتكلم عن الرحمة في سورة الفاتحة	msa	[ "find_quran_verse", "translate_text", "get_news", "search_jobs", "get_weather", "book_hotel", "send_message", "calculate_zakat", "get_stock_price", "order_food" ]	[ { "function": "find_quran_verse", "arguments": { "query": "الرحمة", "surah": 1 } } ]	medium	null
error_001	error_recovery	أرسل رسالة لخالد على التلغرام	msa	[ "send_message" ]	[ { "function": "send_message", "arguments": { "recipient": "خالد", "platform": "telegram", "message": "" } } ]	easy	{ "error": "محتوى الرسالة مطلوب", "code": "MISSING_FIELD" }
error_002	error_recovery	احجز لي رحلة من القمر إلى المريخ	msa	[ "search_flights", "book_hotel" ]	[ { "function": "search_flights", "arguments": { "from_city": "القمر", "to_city": "المريخ" } } ]	easy	{ "error": "المدينة غير موجودة", "code": "INVALID_CITY" }
error_003	error_recovery	حوّل عشر ملايين دولار لزوجتي أمل	msa	[ "send_money", "convert_currency" ]	[ { "function": "send_money", "arguments": { "recipient": "أمل", "amount": 10000000, "currency": "USD" } } ]	medium	{ "error": "المبلغ يتجاوز الحد المسموح", "code": "AMOUNT_EXCEEDED" }
error_004	error_recovery	شوف سعر سهم شركة أبجد في تداول	msa	[ "get_stock_price", "get_news" ]	[ { "function": "get_stock_price", "arguments": { "symbol": "أبجد", "market": "tadawul" } } ]	easy	{ "error": "الرمز غير موجود في السوق", "code": "SYMBOL_NOT_FOUND" }
error_005	error_recovery	شوف حالة تأشيرتي رقم الطلب XYZ	msa	[ "check_visa_status" ]	[ { "function": "check_visa_status", "arguments": { "application_id": "XYZ" } } ]	easy	{ "error": "رقم جواز السفر مطلوب", "code": "MISSING_FIELD" }
error_006	error_recovery	اطلب بيتزا من مطعم بيتزا الملك توصيل لحي السلام	msa	[ "order_food" ]	[ { "function": "order_food", "arguments": { "restaurant": "بيتزا الملك", "items": "بيتزا", "address": "حي السلام" } } ]	easy	{ "error": "المطعم مغلق حالياً", "code": "RESTAURANT_CLOSED" }
param_009	parameter_extraction	أرسل لخالتي فاطمة إيميل تقول فيه كل عام وأنتم بخير	msa	[ "send_message", "set_reminder" ]	[ { "function": "send_message", "arguments": { "recipient": "فاطمة", "platform": "email", "message": "كل عام وأنتم بخير" } } ]	easy	null

Arabic Agent Eval — Dataset Card

An open, installable Arabic function-calling benchmark with dialect splits.

Dataset summary

51 evaluation items spanning 6 categories and 5 dialects of Arabic, testing whether large language models can (a) select the right tool, (b) extract arguments from natural Arabic instructions, (c) preserve Arabic text in tool arguments instead of transliterating, and (d) understand dialectal framing.

Supported tasks

Function-calling evaluation — items pair Arabic instructions with expected structured tool calls.
Tool-use argument extraction — items declare expected_calls[i].arguments that the model's output is compared against via canonical structured-call grading.
Dialect-robustness evaluation — dialect-labeled items enable cross-dialect variance analysis for any agent.

Languages

Arabic only. Five dialect registers: Modern Standard Arabic (msa), Gulf (gulf), Egyptian (egyptian), Levantine (levantine), Maghrebi (maghrebi).

Dataset structure

Each row is a single evaluation item. See docs/schema.md for full schema. Example:

{
  "id": "dialect_001",
  "category": "dialect_handling",
  "instruction": "ابي أحجز فندق في دبي بكرة",
  "dialect": "gulf",
  "available_functions": ["book_hotel", "search_flights", "get_weather"],
  "expected_calls": [
    {"function": "book_hotel", "arguments": {"city": "دبي", "check_in": "غداً"}}
  ],
  "difficulty": "easy"
}

Splits

Split	Items	Purpose
`msa`	32	Modern Standard Arabic baseline
`gulf`	10	Gulf dialect (Saudi, UAE, Kuwait, Qatar, Bahrain, Oman)
`egyptian`	3	Egyptian dialect
`levantine`	4	Levantine dialect (Jordan, Palestine, Syria, Lebanon)
`maghrebi`	2	Maghrebi dialect (Morocco, Algeria, Tunisia)
`all`	51	concatenation of the five dialect splits

Non-MSA dialects are undersampled in v0.1.0 (see docs/baselines.md). Use per-dialect averages as directional signal, not as final rankings.

Category	Arabic	Items	Weight
Simple Function Calling	استدعاء بسيط	10	0.20
Parameter Extraction	استخراج المعاملات	9	0.20
Multi-Step Reasoning	تفكير متعدد الخطوات	7	0.20
Dialect Handling	معالجة اللهجات	12	0.15
Tool Selection	اختيار الأداة	7	0.15
Error Recovery	معالجة الأخطاء	6	0.10

Tool registry

22 Arabic-context tool definitions ship alongside the items, covering Islamic services (prayer times, zakat, Quran search), GCC financial services (Tadawul stocks, multi-currency conversion, money transfer), regional consumer actions (ride-hailing, food delivery, hotel booking), and communication (WhatsApp, SMS, email). See data/functions.json.

Source data

Items are hand-written native Arabic instructions drawn from real regional use cases (Saudi, UAE, Egyptian, Levantine, Moroccan). Authored by the repository maintainer (a native Arabic speaker and digital-marketing practitioner). No data scraped or model-generated.

Personal and sensitive information

None. Items use fictitious names (e.g. أحمد, سارة, محمد) and generic city references.

Licensing

Data: CC-BY-4.0 (data/, dataset_card.md, docs/) Code: Apache-2.0 (arabic_agent_eval/, tests/, scripts/)

See LICENSES.md.

Citation

@software{arabic_agent_eval_2026,
  title = {Arabic Agent Eval: An open, dialect-split Arabic function-calling benchmark},
  author = {Abumazin, Mousa},
  year = {2026},
  url = {https://github.com/Moshe-ship/arabic-agent-eval}
}

Limitations and biases

Dialect coverage is uneven in v0.1.0 (32 MSA / 10 Gulf / 4 Levantine / 3 Egyptian / 2 Maghrebi). Per-dialect statistics from the rare splits are directional only.
GCC bias in the tool registry — Gulf-region contexts dominate (Saudi addresses, Tadawul, AED/SAR currency defaults).
No intra-dialect paraphrase variance in v0.1.0. Scheduled for expansion.
English tool names with Arabic descriptions — models trained primarily on English function-calling may have a spurious advantage on function selection. See docs/grading.md.
No automatic audio, RTL-UI, or code-switching tests. Text-only evaluation.
Grading normalizes Arabic variants conservatively (alef, ya, ta-marbuta, tatweel) but does not apply deep lemmatization. Edge cases may score lower than a human would award.

Downloads last month: 13

Total file size:

95.3 kB