Update app.py

app.py

@@ -3,7 +3,9 @@ from fastapi import FastAPI
 from pydantic import BaseModel
 from transformers import pipeline
 
-
+# 🔧 نخلي الكاش في فولدر قابل للكتابة
+os.environ["HF_HOME"] = "/data"
+os.environ["TRANSFORMERS_CACHE"] = "/data/cache"
 
 app = FastAPI(
     title="📖 حكايتي - API",
@@ -12,6 +14,7 @@ app = FastAPI(
 
 MODEL_REPO = "Reem1/hakayti-merged"
 
+# مثال توضيحي few-shot
 few_shot_example = """<s>[User]: اسمي كريم وأحب الفضاء. 
 اكتب لي قصة طويلة للأطفال (40 جملة على الأقل) مكتوبة بأسلوب قصصي ممتع.
 [Assistant]:
@@ -23,6 +26,7 @@ few_shot_example = """<s>[User]: اسمي كريم وأحب الفضاء.
 وهكذا تعلم كريم أن الحلم يبدأ بخطوة صغيرة، وأن حب المعرفة يمكن أن يفتح له أبوابًا واسعة نحو المستقبل.
 </s>"""
 
+# تحميل الموديل مرة واحدة
 pipe = pipeline(
     "text-generation",
     model=MODEL_REPO,
@@ -32,10 +36,12 @@ pipe = pipeline(
     top_p=0.95
 )
 
+# body request
 class StoryRequest(BaseModel):
     name: str
     hobby: str
 
+# مولد القصة
 def generate_story(name, hobby):
     prompt = f"""{few_shot_example}
 [User]: اسمي {name} وأحب {hobby}. 
@@ -43,11 +49,18 @@ def generate_story(name, hobby):
 وتأكد أن القصة كلها تدور حول {hobby} فقط.
 [Assistant]:"""
 
-    out = pipe(prompt, max_new_tokens=900, temperature=0.9, top_p=0.95, do_sample=True)
+    out = pipe(
+        prompt,
+        max_new_tokens=900,
+        temperature=0.9,
+        top_p=0.95,
+        do_sample=True
+    )
     full_text = out[0]["generated_text"]
     story = full_text.split("[Assistant]:")[-1].replace("</s>", "").strip()
     return story
 
+# API endpoint
 @app.post("/generate")
 def generate_story_api(req: StoryRequest):
     story = generate_story(req.name, req.hobby)