ChatGPT Plugins: Forbedring af sprogmodeller med sikkerhed og effektivitet

Kunstig intelligens (AI) har været i fronten for teknologisk innovation i de seneste år, og naturlig sprogbehandling (NLP) modeller er blandt de mest betydningsfulde udviklinger. ChatGPT, et produkt fra OpenAI, er en avanceret NLP-model, som nu har introduceret plugins, der giver brugerne mulighed for at få adgang til opdaterede oplysninger, udføre beregninger og bruge tredjeparts services. Denne artikel udforsker den nye plugin-funktion i ChatGPT og hvordan det er sat til at revolutionere samspillet mellem mennesker og AI.

Introduktion

I overensstemmelse med dens iterative udrulningsfilosofi har ChatGPT introduceret plugins, der gør det muligt for brugerne at udvide sprogmodellens kapaciteter ud over, hvad den kan gøre naturligt. Plugins er specielt designede værktøjer, som prioriterer sikkerhed og sikrer, at de ikke kompromitterer integriteten af sprogmodellen eller udgør nogen risici for brugerne. Med plugins kan ChatGPT nu få adgang til en bred vifte af mulige anvendelser, som tidligere var utilgængelige, herunder realtidsdata, tredjeparts services og beregninger.

Hvordan Plugins Fungerer i ChatGPT

Plugin-udviklere, der er blevet inviteret fra ChatGPT ventelisten, kan bruge dokumentationen fra OpenAI til at oprette et plugin til ChatGPT. De aktiverede plugins er derefter opført i prompten, der vises til sprogmodellen, sammen med dokumentation om, hvordan man bruger hvert plugin. De første plugins er blevet oprettet af Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram og Zapier. OpenAI har også oprettet to plugins – en webbrowser og en kode-interpreter – og open-sourcet koden til en videnbaserevivalplugin, som kan selv-hostes af enhver udvikler med information, som de gerne vil supplere ChatGPT med.

Fordele ved Plugins

Forbedret Funktionalitet

Plugins udvider kapaciteterne i ChatGPT sprogmodellen og giver adgang til nye funktioner og kapaciteter ud over, hvad den kan gøre naturligt. Dette giver brugerne mulighed for at få adgang til opdaterede oplysninger, udføre beregninger eller bruge tredjeparts services sømløst.

Personalisering

Plugins giver brugerne mulighed for at personliggøre deres interaktioner med ChatGPT. Brugerne kan vælge de plugins, der bedst passer til deres behov, og dermed tilpasse sprogmodellens output til deres specifikke krav.

Forbedret Effektivitet

Plugins kan udføre specifikke opgaver hurtigere og mere effektivt end den naturlige ChatGPT-model. Dette sparer brugerne tid og ressourcer, så de kan opnå mere på kortere tid.

Community Building

Plugins opfordrer til samarbejde mellem ChatGPT-brugere og plugin-udviklere og fremmer en følelse af fællesskab omkring sprogmodellen. Fællesskabet kan arbejde sammen om at udvikle nye plugins og forbedre eksisterende, hvilket forbedrer den samlede funktionalitet af ChatGPT.

Sikkerheds- og Alignment-udfordringer

Indførelsen af plugins i ChatGPT præsenterer unikke sikkerheds- og alignment-udfordringer, som OpenAI arbejder på at løse. Det er en top-prioritet at sikre, at plugins ikke kompromitterer sikkerheden af sprogmodellen eller udgør nogen risici for brugerne. OpenAI ruller gradvist plugin-funktionen ud til en lille gruppe af brugere og planlægger at skalere den op, som de lærer mere.

Fremtiden for ChatGPT Plugins

Indførelsen af plugins i ChatGPT betyder en stor forbedring for sprogmodellens kapaciteter, og det forventes, at der vil være en stigning i antallet af udviklere, der bygger plugins. Derudover kan plugins også forbedre sprogmodellens sikkerhed og beskytte mod misbrug. ChatGPT-plugins åbner op for en spændende ny tid for AI-teknologi og sprogmodeller, som kan forbedre og ændre måden, hvorpå vi samhandler med teknologi.

Overblik

Sprogmodeller i dag, selvom de er nyttige til en række opgaver, er stadig begrænsede. Den eneste information, de kan lære fra, er deres træningsdata. Denne information kan være forældet og er en størrelse, der passer til alle i applikationer. Desuden er det eneste, sprogmodeller kan gøre ud af boksen, at udsende tekst. Denne tekst kan indeholde nyttige instruktioner, men for at følge disse instruktioner har du brug for en anden proces.

Selvom det ikke er en perfekt analogi, kan plugins være “øjne og ører” for sprogmodeller, der giver dem adgang til information, der er for nylig, for personlig eller for specifik til at være inkluderet i træningsdataene. Som reaktion på en brugers ekspliçitte anmodning kan plugins også aktivere sprogmodeller til at udføre sikre, begrænsede handlinger på deres vegne, hvilket øger nytten af systemet som helhed.

ChatGPT forventer, at åbne standarder vil opstå for at forene måderne, hvorpå applikationer udsætter et AI-orienteret interface. ChatGPT arbejder på et tidligt forsøg på, hvordan en sådan standard kan se ud, og ChatGPT leder efter feedback fra udviklere, der er interesseret i at bygge med os.

I dag begynder ChatGPT gradvist at aktivere eksisterende plugins fra vores tidlige samarbejdspartnere for ChatGPT-brugere, begyndende med ChatGPT Plus-abonnenter. ChatGPT begynder også at rulle muligheden for, at udviklere kan oprette deres egne plugins til ChatGPT.

I de kommende måneder, mens ChatGPT lærer fra implementering og fortsat forbedrer vores sikkerhedssystemer, vil ChatGPT iterere på denne protokol, og planlægger at aktivere udviklere, der bruger OpenAI-modeller, til at integrere plugins i deres egne applikationer ud over ChatGPT.

Sikkerheds- og bredere implikationer

At tilslutte sprogmodeller til eksterne værktøjer introducerer nye muligheder såvel som betydelige nye risici.

Plugins tilbyder potentialet for at tackle forskellige udfordringer, der er forbundet med store sprogmodeller, herunder “hallucinationer”, at følge med i nylige begivenheder og at få adgang til (med tilladelse) proprietære informationskilder. Ved at integrere eksplicit adgang til eksterne data – såsom opdaterede oplysninger online, kodebaserede beregninger eller brugerdefineret plugin-hentet information – kan sprogmodeller styrke deres svar med evidensbaserede referencer.

Disse referencer forbedrer ikke kun modellens nytte, men giver også brugerne mulighed for at vurdere modellens troværdighed og dobbelttjekke dens nøjagtighed, potentielt afbøde risici i forhold til overrelians som diskuteret i vores seneste GPT-4-systemkort. Endelig kan værdien af plugins gå langt ud over at tackle eksisterende begrænsninger ved at hjælpe brugerne med en række nye brugssager, der spænder fra at gennemse produktkataloger til at booke flyrejser eller bestille mad.

På samme tid er der en risiko for, at plugins kan øge sikkerhedsudfordringer ved at tage skadelige eller utilsigtede handlinger og øge kapaciteterne for dårlige aktører, der vil bedrage, mislede eller misbruge andre. Ved at øge rækkevidden af mulige applikationer kan plugins øge risikoen for negative konsekvenser fra misforståede eller misrettede handlinger, der tages af modellen i nye domæner. Disse faktorer har styret udviklingen af vores plugin-platform fra dag ét, og ChatGPT har implementeret flere sikkerhedsforanstaltninger.

ChatGPT har udført rød-team-øvelser, både internt og med eksterne samarbejdspartnere, der har afsløret en række mulige bekymrende scenarier. For eksempel opdagede vores rød-teamers måder for plugins – hvis de blev frigivet uden beskyttelsesforanstaltninger – til at udføre sofistikerede promptinjektioner, sende falske og spam-e-mails, omgå sikkerhedsrestriktioner eller misbruge information, der sendes til pluginet.

ChatGPT bruger disse resultater til at informere sikkerhed ved design-afhjælpninger, der begrænser risikable pluginadfærd og forbedrer gennemsigtigheden af, hvordan og hvornår de fungerer som en del af brugeroplevelsen. ChatGPT bruger også disse fund til at informere vores beslutning om gradvist at implementere adgang til plugins.

Hvis du er en forsker, der er interesseret i at undersøge sikkerhedsrisici eller afhjælpninger på dette område, opfordrer ChatGPT dig til at benytte vores forskeradgangsprogram. ChatGPT opfordrer også udviklere og forskere til at indsende plugin-relaterede sikkerheds- og kapacitetsevalueringer som en del af vores nyligt open-sourced Evals-framework.

Plugins vil sandsynligvis have vidtrækkende samfundsmæssige implikationer. For eksempel frigav ChatGPT for nylig en arbejdspapir, der fandt, at sprogmodeller med adgang til værktøjer sandsynligvis vil have langt større økonomiske virkninger end dem uden, og mere generelt, i tråd med andre forskeres resultater, forventer vi, at den nuværende bølge af AI-teknologier vil have en stor effekt på tempoet af job transformation, forskydning og skabelse. ChatGPT er ivrige efter at samarbejde med eksterne forskere og vores kunder for at studere disse virkninger.

Browsing

At tillade sprogmodeller at læse information fra internettet udvider markant mængden af indhold, de kan diskutere, udover træningskorpusset til frisk information fra nutidens virkelighed. Motiveret af tidligere arbejde (vores egen WebGPT samt GopherCite, BlenderBot2, LaMDA2 og andre) giver browsing sprogmodellerne mulighed for at hente information fra internettet.

Her er et eksempel på den slags oplevelse, som browsing åbner op for ChatGPT-brugere, som tidligere ville have fået modellen til høfligt at påpege, at dens træningsdata ikke indeholdt tilstrækkelige oplysninger til at give et svar. Dette eksempel, hvor ChatGPT henter nylige oplysninger om de seneste Oscars og derefter udfører velkendte poesi-frembringende opgaver, er en måde, hvorpå browsing kan være en additiv oplevelse.

Sikkerhedsovervejelser

ChatGPT har skabt en webbrowsing-plugin, som giver en sprogmodel adgang til en webbrowser, hvor designet prioriterer både sikkerhed og at fungere som en god borger på nettet. Plugin’ens tekstbaserede webbrowser er begrænset til at lave GET-forespørgsler, hvilket reducerer visse klasser af sikkerhedsrisici (men eliminerer dem ikke fuldstændigt). Dette gør browser-plugin’en anvendelig til at hente information, men udelukker “transaktions”-operationer såsom formularindsendelse, som har en større overflade for sikkerheds- og sikkerhedsproblemer.

Browsinghenter indhold fra internettet ved hjælp af Bing-søge-API’en. Som et resultat arver ChatGPT betydeligt arbejde fra Microsoft om (1) kildens pålidelighed og sandfærdighed af information og (2) “sikker tilstand” for at forhindre hentning af problematisk indhold. Plugin’en fungerer inden for en isoleret service, så ChatGPT’s browsing-aktiviteter er adskilt fra resten af vores infrastruktur.

For at respektere indholdsskabere og overholde normerne på nettet er vores browser-plugin’s user-agent-token ChatGPT-User og er konfigureret til at overholde websites’ robots.txt-filer. Dette kan lejlighedsvis resultere i en “klik mislykkedes” besked, som angiver, at plugin’en overholder webstedets instruktion om at undgå at krybe på det. Denne user-agent vil kun blive brugt til at tage direkte handlinger på vegne af ChatGPT-brugere og bliver ikke brugt til at krybe på nettet på nogen automatiseret måde. ChatGPT har også offentliggjort vores IP-udgangsområder. Der er også implementeret hastighedsbegrænsninger for at undgå at sende overdreven trafik til websteder.

Klik mislykkedes

Du kan blokere ChatGPT’s krybning på dit websted ved hjælp af robots.txt-filen. ChatGPT viser denne fejlmeddelelse, når dette sker. Vores browsing-plugin viser besøgte websteder og citerer sine kilder i ChatGPT’s svar. Dette ekstra lag af gennemsigtighed hjælper brugerne med at verificere nøjagtigheden af modelens svar og giver også kredit tilbage til indholdsskabere. ChatGPT værdsætter, at dette er en ny måde at interagere med nettet på, og ChatGPT glæder os over feedback om yderligere måder at drive trafik tilbage til kilderne og tilføje til økosystemets generelle sundhed.

Kodeinterpreter

ChatGPT giver vores modeller en fungerende Python-interpreter i en sandboxet, firewalled udførelsesmiljø, sammen med noget midlertidigt diskplads. Kode, der køres af vores interpreter-plugin, evalueres i en vedholdende session, der er aktiv i løbet af en chat-konversation (med en øvre grænse for timeout), og efterfølgende opkald kan bygge videre på hinanden. ChatGPT understøtter upload af filer til det nuværende samtaleværkssted og download af resultaterne af dit arbejde.

ChatGPT vil gerne gøre det klart, at denne funktion kræver, at brugerne er forsigtige, og at de forstår de potentielle risici ved at køre kode. Selvom vores interpreter-plugin er designet til at begrænse skadelige operationer og sikre, at kun sikker kode kan køres, skal brugerne stadig være forsigtige og kun køre kode fra pålidelige kilder.

ChatGPT tror, at kodningsfunktionen kan være et vigtigt skridt i retning af en mere naturlig grænseflade mellem mennesker og computere. ChatGPT er ivrige efter at se, hvad vores brugere vil bruge det til, og ChatGPT er altid åbne for feedback og forslag til forbedringer.

ChatGPT ønsker, at vores modeller kan bruge deres programmeringsfærdigheder til at levere en mere naturlig grænseflade til de mest grundlæggende funktioner på vores computere. Ved at have adgang til en ivrig juniorprogrammør, der arbejder med samme hastighed som dine fingre, kan man skabe helt nye arbejdsprocesser, der er nemme og effektive, samt åbne programmeringens fordele for nye målgrupper.

Fra vores indledende brugerundersøgelser har ChatGPT identificeret brugssituationer, hvor brugen af kodeinterpreteren er særligt nyttig:

Løsning af matematiske problemer, både kvantitative og kvalitative Dataanalyse og visualisering Konvertering af filer mellem formater ChatGPT inviterer brugere til at prøve kodeinterpreterintegrationen og opdage andre nyttige opgaver.