Právě zmizel chatbot Roberta F. Kennedyho Jr. od Microsoftu

Tyto obavy jsou součástí důvodu, proč OpenAI v lednu řekl, že zakáže lidem používat svou technologii k vytváření chatbotů, kteří napodobují politické kandidáty nebo poskytují nepravdivé informace související s hlasováním. Společnost také uvedla, že lidem nedovolí vytvářet aplikace pro politické kampaně nebo lobbování.

Zatímco stránka Kennedyho chatbota nezveřejňuje základní model, který ji pohání, zdrojový kód webu propojuje tohoto robota s LiveChatAI, společností, která inzeruje svou schopnost poskytovat firmám chatboty pro zákaznickou podporu využívající GPT-4 a GPT-3.5. Web LiveChatAI popisuje své roboty jako „využívající schopnosti ChatGPT“.

Na otázku, který velký jazykový model pohání robota kampaně Kennedy, spoluzakladatel LiveChatAI Emre Elbeyoglu ve čtvrtek v e-mailovém prohlášení uvedl, že platforma „využívá řadu technologií jako Llama a Mistral“ kromě GPT-3.5 a GPT-4. „Nejsme schopni potvrdit nebo vyvrátit specifika používání jakéhokoli klienta kvůli našemu závazku k důvěrnosti klienta,“ řekl Elbeyoglu.

Mluvčí OpenAI Niko Felix ve čtvrtek pro WIRED řekl, že společnost „neměla žádné náznaky“, že chatbot Kennedyho kampaně přímo staví na jejích službách, ale naznačil, že LiveChatAI může používat jeden z jejích modelů prostřednictvím služeb Microsoftu. Od roku 2019 Microsoft údajně investoval více než 13 miliard dolarů do OpenAI. Modely ChatGPT OpenAI byly od té doby integrovány do vyhledávače Bing společnosti Microsoft a do firemního Office 365 Copilot.

V pátek mluvčí společnosti Microsoft potvrdil, že chatbot Kennedy „využívá možnosti služby Microsoft Azure OpenAI Service“. Microsoft uvedl, že jeho zákazníci nejsou vázáni podmínkami služby OpenAI a že chatbot Kennedy neporušuje zásady Microsoftu.

„Naše omezené testování tohoto chatbota prokazuje jeho schopnost generovat odpovědi, které odrážejí jeho zamýšlený kontext, s příslušnými upozorněními, která pomáhají předcházet dezinformacím,“ řekl mluvčí. „Tam, kde najdeme problémy, spolupracujeme se zákazníky, abychom jim porozuměli a navedli je k použití, které je v souladu s těmito principy, a v některých scénářích by to mohlo vést k tomu, že zákazníkovi přerušíme přístup k naší technologii.“

OpenAI okamžitě neodpovědělo na žádost o komentář od WIRED, zda bot porušil jeho pravidla. Začátkem tohoto roku společnost zablokovala vývojáře Dean.bot, chatbota postaveného na modelech OpenAI, který napodoboval demokratického prezidentského kandidáta Deana Phillipse a poskytoval odpovědi na otázky voličů.

V neděli pozdě odpoledne už služba chatbota nebyla k dispozici. Zatímco stránka zůstává přístupná na webu Kennedyho kampaně, okno vloženého chatbota nyní zobrazuje ikonu s červeným vykřičníkem a jednoduše říká „Chatbot nenalezen“. Společnost WIRED oslovila Microsoft, OpenAI, LiveChatAI a Kennedyho kampaň s žádostí o vyjádření ke zjevnému odstranění chatbota, ale nedostala okamžitou odpověď.

Vzhledem k tomu, že chatboti mají sklon k halucinacím a škytání, je jejich použití v politickém kontextu kontroverzní. V současné době je OpenAI jediným velkým velkým jazykovým modelem, který výslovně zakazuje jeho použití v kampaních; Meta, Microsoft, Google a Mistral mají smluvní podmínky, ale neřeší přímo politiku. A vzhledem k tomu, že kampaň může zjevně přistupovat ke GPT-3.5 a GPT-4 prostřednictvím třetí strany bez následků, neexistují téměř žádná omezení.

„OpenAI může říci, že na jedné straně neumožňuje volební použití svých nástrojů nebo kampaňové použití svých nástrojů,“ řekl Woolley. „Ale na druhou stranu to také dělá tyto nástroje poměrně volně dostupné. Vzhledem k distribuované povaze této technologie se musíme ptát, jak bude Open AI skutečně prosazovat své vlastní zásady.“