Generální ředitel společnosti Anthropic Dario Amodei se v pondělí ostře ohradil proti tvrzením, že jeho firma tlačí Washington k zákazu takzvaných open-weight modelů umělé inteligence. Ve svém blogovém příspěvku uvedl, že kritici jeho postoj špatně pochopili, a jednoznačně prohlásil, že Anthropic nikdy zákaz otevřených modelů neprosazoval. Debata se rozhořela poté, co návrh v americkém Senátu vyvolal obavy, že by úřady mohly přístup k těmto modelům omezit. Amodei zároveň znovu potvrdil svůj odlišný postoj vůči zbytku amerického technologického sektoru, který otevřené a levné modely jednohlasně vychvaluje.
- Amodei prohlásil, že Anthropic nikdy neprosazoval zákaz open-weight modelů.
- Podle něj jsou otevřené modely bez nebezpečných schopností „veřejným statkem“.
- Firma odmítla podepsat společný dopis Nvidie, Microsoftu, Mety, Googlu a OpenAI proti omezením.
„Každý, kdo četl mé dřívější texty, by měl vědět, že takové zákazy nepovažuji za užitečné opatření, ale řeknu to jasně, aby nebylo pochyb: Anthropic nikdy neobhajoval zákaz open-weight modelů,“ napsal Amodei. Dodal, že „otevřené modely, které nemají nebezpečné schopnosti, jsou veřejným statkem“.
Místo zákazů volá po tvrdším postupu vůči autoritářským režimům
Namísto omezování otevřených modelů by se podle Amodeiho měli zákonodárci zaměřit jinam. Za klíčové označil zabránění tomu, aby se pokročilé čipy pro umělou inteligenci dostávaly k autoritářským vládám, a rovněž potlačení průmyslové „destilace“, tedy postupu, jímž lze kopírovat špičkové modely.
Pojem open-weight označuje modely, jejichž váhy — tedy vnitřní parametry naučené během tréninku — jsou veřejně dostupné. To umožňuje vývojářům model volně používat, upravovat a provozovat na vlastní infrastruktuře, na rozdíl od uzavřených systémů dostupných pouze přes rozhraní poskytovatele. Právě otevřenost je jedním z hlavních dělicích bodů v současné debatě o regulaci umělé inteligence.
Anthropic se drží stranou od zbytku odvětví
Amodeiho vyjádření přišlo poté, co senátní návrh vyvolal obavy z možného omezení otevřených modelů. V reakci na to podepsaly Nvidia, Microsoft, Meta, Google, OpenAI a desítky dalších firem dopis, v němž zákonodárce vyzývají, aby široká omezení nezaváděli. Mezi nejhlasitějšími zastánci otevřených modelů se profiloval generální ředitel Nvidie Jensen Huang.
Anthropic dopis podepsat odmítl, což rozdmýchalo spekulace, že chce zákaz otevřených modelů prosadit, aby ochránil vlastní byznys. Právě těmto úvahám se nyní Amodei snažil učinit přítrž.
Spor o to, zda otevřenost skutečně zvyšuje bezpečnost
Ředitel Anthropicu zároveň zpochybnil jeden z klíčových argumentů zastánců otevřených modelů. Přestože souhlasí, že odvětví by mělo posilovat konkurenci a dávat zákazníkům větší kontrolu, odmítl tezi, že zveřejnění vah modelů samo o sobě činí umělou inteligenci bezpečnější.
„Nesouhlasím s tvrzeními dopisu, že open-weight modely nutně usnadňují vývoj ochranných opatření nebo že široký přístup ke schopnostem nutně pomáhá obráncům více než útočníkům,“ napsal. Podle něj by schopné modely mohly rychle zneužít viry o síle pandemie, zatímco vývoj obrany by mohl trvat roky.
„Zdá se mi přinejmenším stejně pravděpodobné, že bude platit opak,“ dodal Amodei.
Tento spor odráží hlubší rozkol v odvětví: pro uživatele a menší vývojáře znamenají otevřené modely nižší náklady a větší nezávislost na velkých poskytovatelích, zatímco část oboru varuje před riziky spojenými s volným šířením pokročilých schopností. Jak se debata ve Washingtonu vyvine, může ovlivnit i to, jaké nástroje umělé inteligence budou dostupné vývojářům a firmám mimo Spojené státy.
Měli by zákonodárci volný přístup k otevřeným modelům umělé inteligence spíše chránit, nebo omezovat? Napište nám svůj názor do diskuse.
