Levert av de mest fremragende akademikerne i Storbritannia og utover, British Academyflaggskipet Forelesningsprogram viser frem det aller beste akademiske innen humaniora og samfunnsvitenskap. Denne hendelsen er en del av Anna Morpurgo Davies-forelesninger serien.
Store språkmodeller har vist bemerkelsesverdige evner innen naturlig språkbehandling, noe som frister mange til å snakke om dem som om de brukte og forsto språk slik mennesker gjør. Dette overser imidlertid skillet mellom de strukturelle systemene som støtter mening og resonnement, og mekanismene for å forutsi hva som vil komme videre i en tekst basert på lignende passasjer i den enorme mengden treningsdata som LLM-er koder. LLM-er utmerker seg i prediksjon, og det er overraskende hvor mye som kan gjøres ved memorering indeksert av likhet alene. LLM-er kan svare på vanskelige spørsmål, generere tekst med forbløffende flyt om ethvert emne i enhver stil, og generere brukbar datakode på denne måten.
Begrensningene ved LLM-er blir imidlertid stadig tydeligere. De sliter med god logisk inferens, de kan inneholde overbevisende, men fullstendig unøyaktig informasjon, og de har vanskeligheter med å generalisere kode utover overfladisk likhet med eksempler de har møtt under trening. Denne forelesningen vil presentere nyere forskning som fremhever både mulighetene og begrensningene til disse systemene. Konklusjonen vil være at fremtiden for naturlig språkbehandling ligger i hybride tilnærminger som kombinerer presisjonen og strukturen til symbolsk resonnement med kraften i gjenkalling og tilgang gjennom likhet i innhold fra nevrale beregninger.
Dette foredraget vil være tilgjengelig for deltakelse personlig og online, og det vil inkludere en mottakelse for deltakerne. Detaljer følger.
Hvis du har spørsmål om dette arrangementet, vennligst send en e-post events@thebritishacademy.ac.uk, og for mer informasjon om tilgjengelighet, se Tilgjengelighetsguide for Carlton House Terrace.
Photo by Luke Jones on Unsplash
