Perplexity hat einen neuen Orchestrator vorgestellt, der die Verarbeitung von KI-Modellen auf lokalen Rechnern mit leistungsstarken Cloud-Lösungen kombiniert. Dieser Orchestrator soll automatisch entscheiden, wo welche Aufgabe am besten bearbeitet wird, um gleichzeitig Genauigkeit, Datenschutz und Energieeffizienz zu optimieren. Die hybride Inferenz wird ab Juli in das im März eingeführte Always-on-Agenten-Produkt Personal Computer integriert.
Besonders sensible Daten, wie Finanzunterlagen oder Gesundheitsinformationen, sollen lokal verarbeitet werden, während rechenintensive Aufgaben an Cloud-Modelle übergeben werden. Das System wurde in Zusammenarbeit mit Intel entwickelt, ist jedoch auch mit anderer Hardware, wie Nvidias RTX Spark, kompatibel. In der Ankündigung wird betont: „Das Rennen um lokale Rechenleistung hat begonnen.“
Nach Angaben von Perplexity könnte die Verlagerung von Routineaufgaben auf lokale Geräte den Bedarf an zentraler Recheninfrastruktur verringern und die Fragen der Datensouveränität vereinfachen. Das Unternehmen hebt hervor, dass sein Geschäftsmodell korrekte Antworten belohnt, anstatt hohen Rechenverbrauch zu fördern, was die Optimierung auf Effizienz zu einem natürlichen Anreiz macht. Zudem plant OpenAI mit einem neuen Trainingsdatensatz, die Prompt-Injection-Abwehr deutlich zu verbessern, was die Relevanz von Datenschutz in der KI-Entwicklung unterstreicht.
Ein weiteres Beispiel für innovative Ansätze in der KI ist die Investition in KI-Training, bei der Deeptune 43 Millionen Dollar erhält, um innovative Arbeitsumgebungen zu schaffen.
„`
Quellen: the-decoder
Bildquelle: KI generiert
🚀