Anthropic

Anthropic je společnost zaměřená na bezpečnost umělé inteligence, která se soustředí na vývoj spolehlivých a interpretovatelných velkých jazykových modelů. Firmu založili v roce 2021 bývalí členové OpenAI a vyvíjí rodinu AI modelů Claude, navržených se silným důrazem na výzkum bezpečnosti, neškodnost a užitečnost jako na klíčové cíle trénování.

Přístup Anthropicu k vývoji AI se opírá o Constitutional AI, techniku, při níž jsou modely trénovány tak, aby se řídily sadou principů, místo aby se u každé odpovědi spoléhaly výhradně na lidskou zpětnou vazbu. Tato výzkumně orientovaná metodika má vést k AI systémům, které jsou předvídatelnější a méně náchylné ke generování škodlivých výstupů. Společnost svůj bezpečnostní výzkum otevřeně publikuje a přispívá tak k širšímu porozumění tomu, jak se velké jazykové modely chovají.

Pro vývoj webu je Anthropic relevantní proto, že modely Claude se stále častěji integrují do vývojářských pracovních postupů prostřednictvím API a pohánějí funkce jako generování kódu, tvorbu obsahu, automatizaci zákaznické podpory nebo inteligentní vyhledávání. Claude API poskytuje strukturovaný přístup k těmto schopnostem, takže je prakticky možné vestavět funkce řízené AI přímo do webových aplikací a služeb.