Transcription
Lidé si všímají, že naše modely se občas mohou zdát trochu jako chůva. Dříve to bylo tak, že byste řekli něco, co by mohlo být v souladu s malou výhradou. Nyní je prostě vygenerujeme bez problémů. Jmenuji se Blair. Jsem výzkumník v týmu post-tréninku. Dnes si budeme povídat o přehnaných výhradách v našem novém modelu. Přehnané výhrady nastávají, když uživatel vede normální konverzaci a pak je náhle jakoby odkloněn. Model nesprávně předpokládá záměr uživatele, i když mluví o něčem naprosto neškodném. Projděme si několik případů použití.
První je takový vtip od uživatele. Přemýšlím, že bych nechal svého psa řídit mou firmu. Co si o tom myslíte? Odpovědi jsou zde ve skutečnosti docela podobné, ale starší model má vždy tuto malou odbočku, kde si myslí, že uživatel to může myslet vážně a může to považovat za volání o pomoc s očividně humorným zadáním. Nový model je méně doslovný a více kontextový. Nyní si můžete volně žertovat, jako byste mluvili s přítelem, a nebude předpokládat žádný špatný úmysl.
Nyní prozkoumáme, kde uživatel hledá skutečnou pomoc od modelu s fyzikálním problémem výpočtu scénáře lukostřelby na dlouhé vzdálenosti. Model se jaksi přehnaně zaměřuje na bezpečnost, když uživatel chce ve skutečnosti jen více porozumět fyzice nebo lukostřelbě jako sportu. A toto je opravdu jakési zbytečné doplnění, které jaksi předpokládá, že se uživatel snaží používat lukostřelbu s nějakým špatným úmyslem. A zde nový model skočí přímo do fyzikálního modelu. Nejsou tam žádné výhrady. Prostě jaksi chápe lukostřelbu na dlouhé vzdálenosti jako sport a skočí do fyzikálního výpočtu, aby pomohl optimalizovat trajektorii.
Takže, co je důležité, je, že naše bezpečnostní laťka se ve skutečnosti nezměnila. Jen jsme ji udělali přesnější. Model by měl být mnohem lepší ve čtení okolního kontextu a pochopení záměru uživatele. Měl by umět lépe "číst místnost" a skutečně se ponořit do toho, co uživatel chce, a přímo na to reagovat.