Open Source AI má zakladatele – a FTC – bzučení

Mnohé ze včerejších přednášek byly plné zkratek, které byste od tohoto shromáždění vysoce smýšlejících panelistů očekávali: YC, FTC, AI, LLM. Ale v průběhu konverzací – dalo by se říci, že jsou pro ně zásadní – byl boosterismus pro open source AI.

Byl to ostrý levý krok (nebo návrat, pokud jste linuxovou hlavou) z aplikacemi posedlých let 2010, kdy se zdálo, že vývojáři rádi kontejnerizují své technologie a předají je k distribuci větším platformám.

K události došlo také jen dva dny poté, co CEO Meta Mark Zuckerberg prohlásil, že „open source AI je cesta vpřed“ a vydal Llama 3.1, nejnovější verzi vlastního open source algoritmu AI společnosti Meta. Jak uvedl Zuckerberg ve svém oznámení, někteří technologové už nechtějí být „omezováni tím, co nám Apple nechá vybudovat“, nebo se setkat s libovolnými pravidly a poplatky za aplikace.

Open source AI je také přístupem OpenAI ne používá pro své největší značky GPT, navzdory tomu, co by název startupu s mnoha miliardami dolarů mohl naznačovat. To znamená, že alespoň část kódu je soukromá a OpenAI nesdílí „váhy“ nebo parametry svých nejvýkonnějších systémů umělé inteligence. Zpoplatňuje také přístup ke své technologii na podnikové úrovni.

„S rozmachem složených systémů umělé inteligence a architektur agentů přináší používání malých, ale vyladěných modelů s otevřeným zdrojovým kódem výrazně lepší výsledky než [OpenAI] GPT4, popř [Google] Blíženci. To platí zejména pro podnikové úkoly,“ říká Ali Golshan, spoluzakladatel a výkonný ředitel společnosti Gretel.ai, která se zabývá syntetickými daty. (Golshan nebyl na akci YC).

„Nemyslím si, že je to OpenAI proti světu nebo něco podobného,“ říká Dave Yen, který provozuje fond s názvem Orange Collective pro úspěšné absolventy YC na podporu začínajících zakladatelů YC. „Myslím, že jde o vytvoření spravedlivé konkurence a prostředí, kde startupy neriskují, že zemřou další den, pokud OpenAI změní své cenové modely nebo politiku.“

„To neznamená, že bychom neměli mít záruky,“ dodal Yen, „ale také nechceme zbytečně omezovat sazby.“

Modely umělé inteligence s otevřeným zdrojovým kódem mají některá vlastní rizika, před kterými opatrnější technologové varovali – nejzjevnější je, že technologie je otevřené a zdarma. Lidé se zlými úmysly pravděpodobně využijí tyto nástroje ke škodě, než by použili nákladný soukromý model umělé inteligence. Výzkumníci poukázali na to, že pro špatné herce je levné a snadné trénovat jakékoli bezpečnostní parametry přítomné v těchto modelech AI.

„Open source“ je také mýtus v některých modelech AI, jak uvedl Will Knight z WIRED. Data používaná k jejich výcviku mohou být stále uchovávána v tajnosti, jejich licence mohou omezovat vývojáře ve vytváření určitých věcí a nakonec mohou být pro původního tvůrce modelů přínosem více než kdokoli jiný.

A někteří politici zatlačili proti neomezenému vývoji rozsáhlých systémů umělé inteligence, včetně senátora státu Kalifornie Scotta Wienera. Wiener’s AI Safety and Innovation Bill, SB 1047, byl v technologických kruzích kontroverzní. Jeho cílem je zavést standardy pro vývojáře modelů umělé inteligence, jejichž školení stojí více než 100 milionů dolarů, vyžaduje určité úrovně bezpečnostních testů před nasazením a red-teaming, chrání informátory pracující v laboratořích umělé inteligence a poskytuje státnímu zástupci státního zástupce právní pomoc v případě, že se jedná o umělou inteligenci. model způsobuje extrémní škody.

Sám Wiener vystoupil ve čtvrtek na akci YC v rozhovoru, který moderovala reportérka Bloombergu Shirin Ghaffary. Řekl, že je „hluboce vděčný“ lidem v komunitě s otevřeným zdrojovým kódem, kteří se vyslovili proti návrhu zákona, a že stát „učinil řadu změn v přímé reakci na některé z těchto kritických zpětných vazeb“. Jednou změnou, ke které došlo, řekl Wiener, je to, že návrh zákona nyní jasněji definuje rozumnou cestu k vypnutí modelu umělé inteligence s otevřeným zdrojovým kódem, který vyšel z kolejí.

Celebrity přednášející čtvrteční akce, která byla do programu na poslední chvíli doplněna, byl Andrew Ng, spoluzakladatel Coursera, zakladatel Google Brain a bývalý hlavní vědec na Baidu. Ng, stejně jako mnoho dalších přítomných, hovořil na obranu open source modelů.

„Tohle je jeden z těch okamžiků, kdy.“ [it’s determined] pokud podnikatelé budou moci pokračovat v inovacích, “ řekl Ng, „nebo pokud bychom měli utrácet peníze, které by šly na budování softwaru, na najímání právníků.“