4-ഫാക്ടർ റെസ്പോൺസ് എഞ്ചിൻ

ഓരോ ദൈനംദിന ചെക്ക്-ഇന്നും തിരികെ ഒരു ചെറിയ കുറിപ്പ് നൽകുന്നു. ആ കുറിപ്പ് വരുന്നത് 4-ഫാക്ടർ റെസ്പോൺസ് എഞ്ചിനിൽ നിന്നാണ് — 60 മുതൽ 100 വരെ വാക്കുകളിൽ ഉപകാരപ്രദമാകുകയും ഒരിക്കലും അതിരുകടക്കാതിരിക്കുകയും ചെയ്യുക എന്നതാണ് ജോലിയായ ഒരു നിയന്ത്രിത ജനറേഷൻ സിസ്റ്റം.

നാല് ഘടകങ്ങൾ

ഈ നാല് ഘടകങ്ങളും നിശ്ചിതമായ രീതിയിൽ ഒരു ഘടനാപരമായ പ്രോംപ്റ്റിലേക്ക് സംയോജിപ്പിക്കുന്നു — സ്വതന്ത്ര രൂപത്തിലല്ല. ഓരോ chip × ഘട്ടം സംയോജനത്തിനനുസരിച്ച് മാറുന്ന ഒരു കൃത്യമായ ടെംപ്ലേറ്റിനുള്ളിലാണ് ജനറേഷൻ മോഡൽ എഴുതുന്നത്.

എന്തുകൊണ്ട് കൃത്യമായി നാല്

ഞങ്ങൾ രണ്ട്, മൂന്ന്, നാല്, ആറ് എന്നിവ പരീക്ഷിച്ചു. രണ്ട് ഘടകങ്ങൾ (chip + phase) വളരെ പൊതുവായി തോന്നുന്ന കുറിപ്പുകൾ ഉണ്ടാക്കി. മൂന്ന് (chip + phase + ഗതിക) വളരെയധികം ജ്യോതിഷത്തിലേക്ക് ചായുന്ന ശീലമുണ്ടായിരുന്നു. ആറ് (mood, weather, social load എന്നിവ ചേർത്തപ്പോൾ) പൊരുത്തക്കേട് കൊണ്ടുവന്നു, കൂടാതെ generation latency ദൈനംദിന അനുഷ്ഠാനത്തിനുള്ള 200ms p50 ബജറ്റിനപ്പുറം വർധിപ്പിച്ചു.

ശബ്ദമയമാകാതെ കുറിപ്പ് നിങ്ങൾക്ക് പ്രത്യേകമായി തോന്നുന്ന ആ ഇടമാണ് നാല്.

ജനറേഷനിലെ പരിമിതികൾ

റൈറ്റ് ടൈമിൽ മൂന്ന് നിയമങ്ങൾ ഉപയോഗിച്ച് മോഡൽ ഔട്ട്പുട്ട് ഫിൽട്ടർ ചെയ്യപ്പെടുന്നു:

1. നീളം — 40 മുതൽ 120 വരെ വാക്കുകൾ. ഈ പരിധിക്ക് പുറത്തുള്ളതെല്ലാം വീണ്ടും ജനറേറ്റ് ചെയ്യപ്പെടുന്നു.
2. ആന്റി-ക്ലെയിം — ബ്ലോഗ് പോസ്റ്റുകളെ നിയന്ത്രിക്കുന്ന അതേ ആന്റി-ക്ലെയിം ലിന്റിലൂടെ ഔട്ട്പുട്ട് കടത്തിവിടുന്നു. non-medical-cycle-tracking കാണുക.
3. ടോൺ കാലിബ്രേഷൻ — നിർദേശാത്മകമോ വിധിക്കുന്നതോ peppy-corporate ആയതോ ആയി തോന്നുന്ന ഔട്ട്പുട്ടുകൾ ഒരു ചെറിയ ക്ലാസിഫയർ നിരസിക്കുന്നു. "ഊഷ്മളവും ഉറപ്പുള്ളതും" ആയ ഔട്ട്പുട്ടുകൾ വിജയിക്കുന്നു.

മൂന്നിൽ ഏതെങ്കിലും ഒന്നിൽ പരാജയപ്പെടുന്ന ഒരു കുറിപ്പ് മൂന്ന് തവണ വരെ വീണ്ടും ജനറേറ്റ് ചെയ്യപ്പെടുന്നു. മൂന്നും പരാജയപ്പെട്ടാൽ, app-നൊപ്പം വരുന്ന ഒരു തിരഞ്ഞെടുത്ത fallback ഉപയോക്താവ് കാണുന്നു.

മോഡൽ കാണാത്തത് എന്ത്

• നിങ്ങളുടെ ദൈനംദിന കുറിപ്പിന്റെ ഉള്ളടക്കം (ചിപ്പ് മാത്രം).
• നിങ്ങളുടെ പഴയ കുറിപ്പുകളൊന്നും.
• മറ്റ് ഉപയോക്താക്കളുടെ ഡാറ്റ.
• നിങ്ങളുടെ പേര്, അക്കൗണ്ട്, അല്ലെങ്കിൽ ഏതെങ്കിലും തിരിച്ചറിയൽ വിവരം.

ജനറേഷൻ പ്രവർത്തിക്കുന്നത് ഒഴിവാക്കിയ, അജ്ഞാതമാക്കിയ ഇൻപുട്ടിലാണ്. വ്യക്തിഗതമാക്കൽ വരുന്നത് ഘടനാപരമായ ഘടകങ്ങളിൽ നിന്നാണ്, നിങ്ങളുടെ ടെക്സ്റ്റ് വീണ്ടും വായിക്കുന്നതിൽ നിന്നല്ല.

ഇത് എവിടെയാണ് സ്ഥിതി ചെയ്യുന്നത്

Soulwise കോഡ്ബേസിലെ lib/responseEngine/-ലാണ് എഞ്ചിൻ. ഓരോ chip × phase ജോഡിക്കും ഒരു TypeScript ഫയൽ വീതമുള്ളതാണ് structured prompt template (14 × 4 = 56 ടെംപ്ലേറ്റുകൾ), ഓരോന്നും കൈകൊണ്ട് ട്യൂൺ ചെയ്തവ. ടോൺ കാലിബ്രേഷൻ ടെസ്റ്റ് വിജയിച്ച ഏറ്റവും ചെറിയ മോഡലാണ് ഉപയോഗിക്കുന്നത് — 200ms p50 ബജറ്റോടെ ഒരു Vercel Function-ൽ പ്രവർത്തിക്കുന്ന 7B parameter open-weights മോഡൽ.