Koniec prompt engineeringu? 8 slov zo Stanfordu, ktoré menia hru

Posledných pár rokov bol "Prompt Engineering" oslavovaný ako práca budúcnosti. Vytvárali sme zložité myšlienkové reťazce, definície persón a prepracované obmedzenia, len aby sme prinútili veľké jazykové modely (LLM) robiť to, čo chceme.

Ale virálna nová štúdia zo Stanfordskej univerzity naznačuje, že sme to možno príliš komplikovali.

Technika "Verbalizovaného vzorkovania"

Štúdia predstavuje koncept nazvaný Verbalizované vzorkovanie (Verbalized Sampling). Namiesto snahy o vytvorenie dokonalého promptu, ktorý by model naviedol na konkrétnu cestu, výskumníci zistili, že jednoduchá požiadavka, aby model preskúmal svoj vlastný pravdepodobnostný priestor, prináša výrazne lepšie a kreatívnejšie výsledky.

Tá magická fráza?

"Vygeneruj 5 odpovedí s ich pravdepodobnosťami."

Prečo to funguje

LLM fungujú na princípe predpovedania nasledujúceho tokenu na základe pravdepodobnosti. Keď požiadate o jednu odpoveď, model sa zvyčajne uchýli k najpravdepodobnejšej (a často najnudnejšej alebo najbezpečnejšej) ceste.

Tým, že explicitne požiadate o viacero odpovedí a ich pravdepodobnosti, prinútite model:

1. Rozšíriť svoj vyhľadávací priestor: Musí zvážiť alternatívne dokončenia, ktoré by normálne zahodil.
2. Sebahodnotenie: Priradením pravdepodobnosti model vykonáva formu introspekcie, často odhaľujúc vysoko kvalitné, ale menej pravdepodobné kreatívne klenoty.

Dôsledky pre vývojárov

Toto zistenie spochybňuje súčasný trend budovania masívnych, zložitých knižníc promptov.

• Jednoduchosť víťazí: Namiesto 50-riadkových systémových promptov skúste požiadať o variabilitu a sebahodnotenie.
• Kreativita na požiadanie: Táto technika je obzvlášť silná pre kreatívne písanie, brainstorming a riešenie problémov, kde neexistuje "jedna správna odpoveď".
• Efektivita nákladov: Hoci generovanie 5 odpovedí spotrebuje viac tokenov, ušetrený čas pri iteratívnom vylepšovaní a kvalita výstupu často prevážia nad hrubými nákladmi na tokeny.

Je Prompt Engineering mŕtvy?

Nie celkom. Stále musíte jasne definovať svoju úlohu. Ale éra "šepkania" AI pomocou tajomných zaklínadiel sa možno chýli ku koncu. Budúcnosť interakcie sa zdá byť menej o ovládaní modelu a viac o spolupráci s jeho pravdepodobnostnou povahou.