MedVita commited on
Commit
54afa16
·
verified ·
1 Parent(s): 2d88606

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +132 -0
README.md ADDED
@@ -0,0 +1,132 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - vi
4
+ - en
5
+ tags:
6
+ - sft
7
+ size_categories:
8
+ - 10K<n<100K
9
+ ---
10
+ # 📊 Báo Cáo Phân Tích Dữ Liệu SFT
11
+ > **File:** `sft_data_common_20k_cleaned.parquet`
12
+
13
+ ## 1. Tổng Quan Dữ Liệu
14
+
15
+ | Thông tin | Giá trị |
16
+ | :--- | :--- |
17
+ | **Tổng số dòng (rows)** | 16,411 |
18
+ | **Số cột (columns)** | 10 |
19
+ | **Kích thước dữ liệu** | 16,411 × 10 |
20
+
21
+ ---
22
+
23
+ ## 2. Cấu Trúc Dataset (Schema)
24
+
25
+ | # | Tên Cột | Kiểu Dữ Liệu | Non-null Count | Tỷ lệ |
26
+ | :--- | :--- | :--- | :--- | :--- |
27
+ | 1 | `doc_id` | object | 16,411 | 100.0% |
28
+ | 2 | `provided_dataset` | object | 16,411 | 100.0% |
29
+ | 3 | `lang` | object | 16,411 | 100.0% |
30
+ | 4 | `task` | object | 16,411 | 100.0% |
31
+ | 5 | `messages` | object | 16,411 | 100.0% |
32
+ | 6 | `meta_filtered` | object | 16,411 | 100.0% |
33
+ | 7 | `canonical_hash` | object | 16,411 | 100.0% |
34
+ | 8 | `tools` | object | 8,871 | 54.1% |
35
+ | 9 | `parallel_tool_calls` | object | 8,844 | 53.9% |
36
+ | 10 | `domain` | object | 16,411 | 100.0% |
37
+
38
+ ---
39
+
40
+ ## 3. Phân Bố Dữ Liệu
41
+
42
+ ### 🌐 Theo Ngôn Ngữ (`lang`)
43
+
44
+ | Ngôn ngữ | Số lượng | Tỷ lệ |
45
+ | :--- | :--- | :--- |
46
+ | **Vietnamese (vi)** | 8,402 | 51.2% |
47
+ | **English (en)** | 8,009 | 48.8% |
48
+
49
+ ### 📝 Theo Task
50
+
51
+ | Task | Số lượng | Tỷ lệ |
52
+ | :--- | :--- | :--- |
53
+ | code | 1,995 | 12.2% |
54
+ | math | 1,994 | 12.2% |
55
+ | instruction | 1,968 | 12.0% |
56
+ | summarize | 1,961 | 11.9% |
57
+ | dialogue | 1,945 | 11.9% |
58
+ | translation | 1,920 | 11.7% |
59
+ | daily | 1,622 | 9.9% |
60
+ | qa | 1,551 | 9.5% |
61
+ | classification | 1,455 | 8.9% |
62
+
63
+ ### 🏢 Theo Domain
64
+
65
+ | Domain | Số lượng | Tỷ lệ |
66
+ | :--- | :--- | :--- |
67
+ | common | 16,411 | 100.0% |
68
+
69
+ ---
70
+
71
+ ## 4. Nguồn Dữ Liệu (`provided_dataset`)
72
+
73
+ | # | Dataset Nguồn | Số lượng | Tỷ lệ |
74
+ | :--- | :--- | :--- | :--- |
75
+ | 1 | `instruct_general_dataset` | 5,879 | 35.8% |
76
+ | 2 | `aya_collection_language_split` | 2,921 | 17.8% |
77
+ | 3 | `infinity_instruct_7m` | 2,849 | 17.4% |
78
+ | 4 | `smoltalk2` | 1,345 | 8.2% |
79
+ | 5 | `lmsys_chat_1m` | 905 | 5.5% |
80
+ | 6 | `nemotron` | 574 | 3.5% |
81
+ | 7 | `tulu3` | 484 | 2.9% |
82
+ | 8 | `openhermes_2_5` | 370 | 2.3% |
83
+ | 9 | `wildchat_1m` | 294 | 1.8% |
84
+ | 10 | `ultrachat_200k` | 230 | 1.4% |
85
+ | 11 | `acereason_1_1_sft` | 211 | 1.3% |
86
+ | 12 | `webscale_rl` | 197 | 1.2% |
87
+ | 13 | `ViSpanExtractQA` | 39 | 0.2% |
88
+ | 14 | `chatbot_arena_conversations` | 38 | 0.2% |
89
+ | 15 | `mmlu5_options` | 29 | 0.2% |
90
+
91
+ ---
92
+
93
+ ## 5. Phân Bố Kết Hợp (Top 15)
94
+
95
+ ### 🔀 Ngôn Ngữ × Task
96
+
97
+ | Ngôn ngữ | Task | Số lượng | Tỷ lệ |
98
+ | :---: | :--- | :--- | :--- |
99
+ | vi | math | 1,000 | 6.1% |
100
+ | vi | classification | 1,000 | 6.1% |
101
+ | vi | code | 999 | 6.1% |
102
+ | en | code | 996 | 6.1% |
103
+ | en | summarize | 994 | 6.1% |
104
+ | en | math | 994 | 6.1% |
105
+ | en | dialogue | 987 | 6.0% |
106
+ | vi | instruction | 985 | 6.0% |
107
+ | en | instruction | 983 | 6.0% |
108
+ | en | translation | 973 | 5.9% |
109
+ | en | daily | 968 | 5.9% |
110
+ | vi | summarize | 967 | 5.9% |
111
+ | vi | dialogue | 958 | 5.8% |
112
+ | vi | translation | 947 | 5.8% |
113
+ | vi | qa | 892 | 5.4% |
114
+
115
+ ### 🔀 Domain × Ngôn Ngữ
116
+
117
+ | Domain | Ngôn ngữ | Số lượng | Tỷ lệ |
118
+ | :--- | :---: | :--- | :--- |
119
+ | common | vi | 8,402 | 51.2% |
120
+ | common | en | 8,009 | 48.8% |
121
+
122
+ ---
123
+
124
+ ## 6. Thống Kê Bổ Sung
125
+ * **Số dòng có `tools`:** 8,871 (54.1%)
126
+ * **Số dòng có `parallel_tool_calls`:** 8,844 (53.9%)
127
+ * **Số lượng giá trị Unique:**
128
+ * `doc_id`: 16,411
129
+ * `provided_dataset`: 18
130
+ * `canonical_hash`: 16,411
131
+
132
+ ![image](https://cdn-uploads.huggingface.co/production/uploads/6908e31ea9baafa42b5139ba/8T-Yom_1cTiygu0sNwVm_.png)