Kong lancia una porta d’ingresso AI open source per sviluppatori

Kong, un'azienda API, sta rilasciando oggi il suo Gateway AI open source. Si tratta di un'espansione del loro attuale gateway API, che consente ai developer e ai team di operazioni di...

Il nuovo AI Gateway di Kong semplifica la creazione di app multi-LLM.

Kong AI Gateway

L’azienda di API Kong ha recentemente presentato il suo AI Gateway open source, un’estensione del suo gateway API esistente che consente agli sviluppatori e ai team operativi di integrare le loro applicazioni con grandi modelli linguistici (LLM) e accedervi tramite un’unica API. Questa mossa è una risposta alla crescente domanda di capacità di intelligenza artificiale in diverse industrie e organizzazioni.

“Le API sono guidate dai casi d’uso: mobile, microservizi – l’intelligenza artificiale è solo l’ultimo arrivato. Quando guardiamo l’intelligenza artificiale, stiamo effettivamente guardando API ovunque. Stiamo guardando API quando si tratta di consumare l’intelligenza artificiale, stiamo guardando API per ottimizzare l’intelligenza artificiale e l’intelligenza artificiale stessa. Quindi, quanto più intelligenza artificiale abbiamo, tanto più utilizzeremo le API nel mondo”, ha spiegato Marco Palladino, co-fondatore e CTO di Kong.

Una delle principali preoccupazioni per le organizzazioni che utilizzano l’intelligenza artificiale è la potenziale perdita di dati. Kong affronta questa problematica estendendo il suo gateway per consentire alle aziende di eseguire i loro modelli di intelligenza artificiale localmente, con il cloud come opzione di backup. Per gestire efficacemente questi modelli di intelligenza artificiale, le aziende devono anche gestire credenziali, controllo del traffico, registrazione e gestione delle quote. Il gateway API di Kong fornisce una soluzione che consente agli sviluppatori di utilizzare più fornitori LLM senza modificare il proprio codice esistente.

Il Gateway AI supporta attualmente popolari fornitori LLM come Anthropic, Azure, Cohere, i modelli LLaMA di Meta, Mistral e OpenAI. Sovrapposizione di funzionalità specifiche dell’intelligenza artificiale sull’API, Kong mira a consentire nuovi casi d’uso e semplificare l’implementazione di quelli esistenti.

🔍 Q&A:

Q: Perché Kong sta lanciando un AI Gateway? A: Kong riconosce la crescente domanda di capacità di intelligenza artificiale e mira a fornire una soluzione basata su API per integrare le applicazioni con grandi modelli linguistici (LLMs).

Q: Qual è il vantaggio dell’AI Gateway di Kong? A: L’AI Gateway di Kong consente agli sviluppatori di utilizzare più fornitori LLM senza dover modificare il proprio codice esistente. Affronta anche le preoccupazioni relative alla perdita di dati, consentendo alle aziende di eseguire i propri modelli di intelligenza artificiale in locale.

Q: Quali fornitori LLM sono supportati dall’AI Gateway? A: L’AI Gateway supporta attualmente popolari fornitori LLM come Anthropic, Azure, Cohere, i modelli LLaMA di Meta, Mistral e OpenAI.

L’ingegnerizzazione delle prompt è una caratteristica chiave dell’AI Gateway, che consente alle aziende di applicare linee guida su questi modelli. Ciò centralizza la gestione delle linee guida e dei prompt, offrendo un modo più efficiente per garantire la conformità.

Mentre altri fornitori di API gestiscono le API di intelligenza artificiale in modo simile ad altre API, l’approccio di Kong si concentra sull’enhancement dell’esperienza API con funzionalità specifiche dell’intelligenza artificiale. Con i trasformatori di richiesta e risposta dell’IA, gli sviluppatori possono apportare modifiche in tempo reale ai prompt e ai risultati, come la traduzione automatica o la rimozione delle informazioni personali identificabili.

🌐 Ulteriori Analisi:

La presentazione del AI Gateway open source di Kong riflette l’importanza crescente dell’intelligenza artificiale in diverse industrie. Integrando le capacità di intelligenza artificiale nel proprio gateway API esistente, Kong offre agli sviluppatori un modo più semplice ed efficiente per accedere ed utilizzare modelli linguistici. Inoltre, la capacità di eseguire modelli di intelligenza artificiale in locale affronta le preoccupazioni sulla privacy dei dati e offre alle organizzazioni un maggiore controllo sulla propria infrastruttura di intelligenza artificiale.

Questa mossa si allinea alla tendenza crescente di sfruttare le API per sbloccare le capacità di intelligenza artificiale. Con l’aumentare della diffusione dell’intelligenza artificiale, la domanda di API per consumare, ottimizzare e interagire con essa continuerà a crescere. L’attenzione di Kong alle soluzioni di intelligenza artificiale basate su API li posiziona come un attore di primo piano in questo scenario in continua evoluzione.

💡 Sviluppi Futuri:

Man mano che le tecnologie di intelligenza artificiale e i modelli linguistici continuano ad avanzare, è probabile che l’AI Gateway di Kong si evolva per supportare più fornitori e offrire robuste funzionalità premium. La natura open source del gateway consente ulteriori contributi dalla comunità degli sviluppatori, favorendo l’innovazione e spingendo i limiti di ciò che è possibile con l’integrazione dell’intelligenza artificiale.

Il lancio dell’AI Gateway di Kong suggerisce anche la possibilità futura di API basate sull’intelligenza artificiale. Con la convergenza della tecnologia dell’intelligenza artificiale e delle API, ci aspettiamo di vedere più casi d’uso creativi e trasformativi emergere in diversi settori, dall’elaborazione del linguaggio naturale alla visione artificiale e oltre.

📚 Elenco di Riferimento:

  1. Piattaforma di Gestione delle API Kong
  2. Anthonic
  3. Azure AI
  4. Cohere
  5. Modelli LLaMA di Meta
  6. Mistral
  7. OpenAI

🙌 Interagisci e Condividi:

Cosa ne pensi del nuovo Gateway AI open source di Kong? Condividi le tue opinioni e unisciti alla discussione sui social media! #KongAI #APIGateway #AIIntegration