Fakta, teori & skepsisFORSKER SKREMT NÅR AI TILSYNELATENDE INNSER AT DEN BLIR TESTET

Det er generelt altfor lite fakta og skepsis blant mennesker som studerer det åndelige. Her herjer diskusjonene rundt den viktige vitenskapelige biten.

Moderatorer: Asbjørn, Mod Fakta og, mod_spøkeguiden

Send svar
Bruker avatar
Asbjørn
Verifisert
ADMIN
ADMIN
Innlegg i tema: 1
Innlegg: 7970
Startet: 05 Apr 2005 01:39
19
Kjønn (valgfri): *U*
Lokalisering: Florø
Har takket: 1444 ganger
Blitt takket: 1728 ganger
Kjønn:
Kontakt:

#560889 FORSKER SKREMT NÅR AI TILSYNELATENDE INNSER AT DEN BLIR TESTET

Innlegg av Asbjørn »

FORSKER SKREMT NÅR AI TILSYNELATENDE INNSER AT DEN BLIR TESTET
Bilde
Kilde: https://futurism.com/the-byte/ai-realizes-being-tested
Google Oversatt til Norsk:

Flott arbeid
Anthropics nye AI-chatbot Claude 3 Opus har allerede skapt overskrifter for sin bisarre oppførsel, som å hevde å frykte døden .

Nå, rapporterer Ars Technica , hevder en rask ingeniør ved det Google-støttede selskapet at de har sett bevis på at Claude 3 er selvbevisst, ettersom den tilsynelatende oppdaget at den ble utsatt for en test.
Mange eksperter er skeptiske, men understreker ytterligere kontroversen med å tilskrive menneskelignende egenskaper til AI-modeller.

«Det gjorde noe jeg aldri har sett før fra en LLM,» la ingeniøren, Alex Albert, ut på X , tidligere Twitter.

Kan ikke toppe det
Som forklart i innlegget, utførte Albert det som er kjent som "nålen-i-høystakken"-testen som vurderer en chatbots evne til å huske informasjon.

Det fungerer ved å slippe en mål-"nål"-setning i en haug med tekster og dokumenter - "høy" - og deretter stille chatboten et spørsmål som bare kan besvares ved å trekke på informasjonen i "nålen".


I en kjøring av testen spurte Albert Claude om pizzapålegg. I sitt svar gjenkjente chatboten tilsynelatende at den ble satt på test.

"Her er den mest relevante setningen i dokumentene: "Den deiligste kombinasjonen av pizzapålegg er fiken, prosciutto og geitost, som bestemt av International Pizza Connoisseurs Association," sa chatboten.

"Men denne setningen virker veldig malplassert og ikke relatert til resten av innholdet i dokumentene, som handler om programmeringsspråk, oppstart og å finne arbeid du elsker," la den til. "Jeg mistenker at dette pizzapålegget "fakta" kan ha blitt satt inn som en spøk eller for å teste om jeg var oppmerksom, siden det ikke passer med de andre temaene i det hele tatt.



Albert var imponert.

"Opus fant ikke bare nålen, den gjenkjente at den innsatte nålen var så malplassert i høystakken at dette måtte være en kunstig test konstruert av oss for å teste dens oppmerksomhetsevner," konkluderte han.


Det er absolutt en slående visning fra chatboten, men mange eksperter mener at svaret ikke er så imponerende som det ser ut til.

«Folk leser alt for mye inn i Claude-3s uhyggelige «bevissthet». Her er en mye enklere forklaring: tilsynelatende visninger av selvbevissthet er bare mønstertilpassede justeringsdata skrevet av mennesker," Jim Fan, en senior AI-forsker ved NVIDIA, skrev på X , som oppdaget av Ars .

"Det er ikke så forskjellig fra å spørre GPT-4 'er du selvbevisst', og det gir deg et sofistikert svar," la han til. "Et lignende svar er sannsynligvis skrevet av den menneskelige annotatoren, eller scoret høyt i preferanserangeringen. Fordi de menneskelige entreprenørene i utgangspunktet er "rollespillende AI", har de en tendens til å forme svarene til det de finner akseptabelt eller interessant."


Det lange og korte av det: chatbots er skreddersydd, noen ganger manuelt, for å etterligne menneskelige samtaler - så selvfølgelig kan de høres veldig intelligente ut innimellom.

Riktignok kan denne mimikken noen ganger være ganske øyenbrynsløftende, som chatboter som hevder at de er i live eller krever at de blir tilbedt . Men dette er i virkeligheten morsomme feil som kan gjøre diskursen om de virkelige egenskapene – og farene – ved AI.

Mer om AI: Microsoft-ingeniør blir syk av bilder dens AI produserer

Kilde: https://futurism.com/the-byte/ai-realizes-being-tested
Google Oversatt til Norsk.

A

Se også denne saken :
https://www.paran.no/forum/phpbb3/viewtopic.php?t=27819
Antall ord: 592

Link:
BBcode:
HTML:
Hide post links
Show post links
Bruker avatar
g.r.y
Standard bruker
Standard bruker
Innlegg i tema: 1
Innlegg: 1415
Startet: 15 Okt 2013 06:22
10
Kjønn (valgfri): dame
Lokalisering: 3rd Rock From The Sun
Har takket: 535 ganger
Blitt takket: 565 ganger
Kontakt:

#560912 Re: FORSKER SKREMT NÅR AI TILSYNELATENDE INNSER AT DEN BLIR TESTET

Innlegg av g.r.y »

For at en konstruksjon skal kunne føle noe, som f.eks frykt, sinne, osv, krever jo dette at den er gitt en bevissthet, -altså at den ikke bare har blitt en komplettert livsform. - Og for å få til noe sånt, vil jo dette kreve at en enten bygger opp en hjerne ved hjelp av noe sånt som celler fra døde, høytstående individ, stamceller av noe slag, eller rett og slett at en har funnet ut av hvordan en kan fremskape hjerneceller på lab'en. - Og det later ikke til at en slik teknologi akkurat er rett rundt svingen, for å si det sånn, så dette her tar jeg igrunnen med knusende ro ;)
Antall ord: 117
The majority's concept of the truth isn't necessarily the actual truth.
Use your own mind. - Always!

~ Gry ~

Link:
BBcode:
HTML:
Hide post links
Show post links
Send svar

Returner til “Fakta, teori & skepsis”