OpenAI oznámil nové Bezpečnostní prvky dospívajících pro Chatgpt v úterý v rámci pokračujícího úsilí reagovat na obavy ohledně toho, jak se nezletilí zapojují do chatbotů. Společnost vytváří systém predikce věku, který identifikuje, zda je uživateli mladší 18 let, a směřuje je do „věkového“ systému, který blokuje grafický sexuální obsah. Pokud systém zjistí, že uživatel zvažuje sebevraždu nebo sebepoškozování, bude kontaktovat rodiče uživatele. V případě bezprostředního nebezpečí, pokud jsou rodiče uživatele nedosažitelní, může systém kontaktovat úřady.
V blogovém příspěvku o oznámení generální ředitel Sam Altman napsal, že společnost se pokouší vyrovnat svobodu, soukromí a bezpečnost dospívajících.
„Uvědomujeme si, že tyto zásady jsou v konfliktu a ne každý bude souhlasit s tím, jak tento konflikt vyřešíme,“ napsal Altman. „Jsou to obtížná rozhodnutí, ale po rozhovoru s odborníky to je to, co považujeme za nejlepší a chceme být v našich záměrech transparentní.“
Zatímco OpenAI má tendenci upřednostňovat soukromí a svobodu pro dospělé uživatele, pro dospívající společnost říká, že to dává bezpečnost na první místo. Do konce září bude společnost zavádět rodičovské kontroly, aby rodiče mohli propojit účet svého dítěte s vlastním, což jim umožní řídit konverzace a deaktivovat funkce. Rodiče mohou také dostávat oznámení, když „systém detekuje jejich dospívající je podle blogového příspěvku společnosti v okamžiku akutní tísně“ a stanoví se limity pro denní dobu, kterou jejich děti mohou používat chatgpt.
Pohyby přicházejí, jak se hluboce znepokojující titulky stále objevují o tom, že lidé umírají sebevraždou nebo se dopustí násilí proti rodinným příslušníkům poté, co se zapojili do dlouhých rozhovorů s chatboty AI. Zákonodárci si toho všimli a Meta i OpenAI jsou pod kontrolou. Začátkem tohoto měsíce požádala Federální obchodní komise Meta, OpenAI, Google a další firmy AI, aby podle Bloomberga ovlivnily informace o tom, jak jejich technologie ovlivňují děti.
Zároveň je OpenAI stále pod soudním příkazem, který nařizuje, aby zachoval spotřebitelské chaty na dobu neurčitou – skutečnost, že společnost je podle zdrojů, s nimiž jsem mluvil, je společnost nesmírně nešťastná. Dnešní zprávy jsou důležitým krokem k ochraně nezletilých a důvtipného PR, aby posílily myšlenku, že rozhovory s chatboty jsou tak osobní, že soukromí spotřebitelů by mělo být porušeno pouze za nejextrémnějších okolností.
„Avatar sexuálního avataru v chatgptu“
Z zdrojů, s nimiž jsem mluvil na OpenAI, zátěž na ochranu uživatelů silně váží mnoho vědců. Chtějí vytvořit uživatelský zážitek, který je zábavný a poutavý, ale může se rychle otočit, aby se stal katastrofálně sykofantickým. Je pozitivní, že společnosti jako OpenAI podniknou kroky k ochraně nezletilých. Současně, pokud neexistuje federální regulace, stále nic nutí tyto firmy dělat správnou věc.
V nedávném rozhovoru Tucker Carlson tlačil Altmana, aby přesně odpověděl SZO činí tato rozhodnutí, která ovlivňují nás ostatní. Šéf OpenAI ukázal na tým chování modelu, který je zodpovědný za vyladění modelu pro určité atributy. „Osoba, o které si myslím, že bys měl za tyto hovory odpovědnost za tyto hovory,“ dodal Altman. „Stejně jako jsem veřejná tvář. Nakonec, jako jsem ten, který může přepínat jedno z těchto rozhodnutí nebo naší rady.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
