Kurzfassung
Die renommierte mittelständische Anwaltskanzlei Ropers Majeski suchte nach einem Weg, die Datenverarbeitung mithilfe einer KI-basierten Lösung zu automatisieren und zu verschlanken. Dabei sollten gleichzeitig die Datensicherheit und Compliance gewährleistet bleiben. Gemeinsam mit Intel, Activeloop und ZERO Systems entwickelte Ropers Majeski ein mehrschichtiges KI-System, dessen Kern hochleistungsfähige Intel® Xeon® Prozessoren der 4. Generation darstellen. Durch die Lösung stieg die Produktivität der Mitarbeitenden deutlich an, gleichzeitig blieb die Datensicherheit weiterhin gewährleistet.
Die Herausforderung: Sensible Daten schnell und sicher verarbeiten
Seit über 70 Jahren bietet Ropers Majeski seinen Mandanten weltweit erstklassige Rechtsberatung. In der Anwaltskanzlei suchte man nach einer Möglichkeit, eine Reihe von Abläufen zu automatisieren, z. B. Dokumentation, Archivierung, Zeiterfassung, Speicherung und Abruf von Informationen. Diese Aufgaben wurden bisher in der Regel von den Wissensarbeitenden der Kanzlei erledigt. Das führte zu Fehlern und kostete die hochqualifizierten Mitarbeitenden viele nicht-abrechnungsfähige Stunden.
Die Automatisierungslösung sollte schnell, zuverlässig und für große Datenmengen ausgelegt sein, um der Compliance zu entsprechen. Außerdem musste der Schutz sensibler Mandantendaten gewährleistet sein. Beispielsweise mussten sämtliche Daten im Haus verarbeitet werden und Dienstleister durften keinen Zugriff auf vertrauliche Dokumente haben.
In Zusammenarbeit mit Intel, Activeloop und ZERO Systems hat Ropers Majeski eine leistungsstarke, zuverlässige und sichere KI-gestützte Lösung entwickelt. Diese kombiniert moderne Hardware und innovative Datenspeicherung mit einer generativen KI-Lösung, die auf einem Large Language Model basiert.
Die Lösung: Ein mehrschichtiger KI-Ansatz
In Zusammenarbeit mit Intel, Activeloop und ZERO Systems entwickelte Ropers Majeski eine leistungsstarke, zuverlässige und sicherere KI-gestützte Lösung. Diese kombiniert moderne Hardware und innovative Datenspeicherung mit einer generativen KI-Lösung, die auf einem kanzlei-eigenen Large Language Model basiert. Vertrauliche Informationen von Mandanten werden von Hercules, der proprietären KI-Engine von ZERO Systems, klassifiziert, archiviert und indiziert. Mithilfe der Engine werden auch Texte wie z. B. E-Mails erstellt.
Die sichere Speicherung der Daten erfolgt in Deep Lake, der KI-Datenbank von Activeloop. Auf diese Weise konnten sowohl Embeddings als auch multimodale Daten für Millionen von sensiblen Dokumenten gespeichert werden. Außerdem konnten so rollenbasierte Zugangskontrollen für die Lösung von ZERO Systems bereitgestellt werden.
„Strategische Kooperationen dieser Art, bei denen generative KI in der Rechtswelt und anderen stark regulierte Branchen zum Einsatz kommt, wird es in Zukunft häufig geben.“
Dank der Rechenleistung der skalierbaren Intel® Xeon® Prozessoren der 4. Generation konnte der Kunde sich die Investition in eine teure proprietäre Lösung sparen. Diese für KI-Inferenz optimierten CPUs ermöglichen mithilfe integrierter Beschleuniger eine erhebliche Steigerung der Leistung und Effizienz. Intel® Advanced Vector Extensions 512 (Intel® AVX-512) beispielsweise unterstützen die Verarbeitung von Vektoren außerhalb des Deep-Learning-Kontextes bzw. von Deep-Learning-Anwendungen. Auch Intel® Advanced Matrix Extensions (Intel® AMX) mit integrierter Hardware-Unterstützung für die KIBeschleunigung gehören dazu.
Die Zusammenarbeit mit Activeloop und ZERO Systems kam dank der Intel® Disruptor Initiative zustande, die ihren Mitgliedern technische Möglichkeiten eröffnet und den Multi-Channel-Go-ToMarket-Ansatz unterstützt.
Das Ergebnis: Beschleunigte Abläufe, gesteigerte Produktivität
Sobald das mehrschichtige System in Betrieb war, stellte Ropers Majeski bei seinen Wissensarbeitenden einen Produktivitätsgewinn von 18,5 % fest, was einer durchschnittlichen Zeitersparnis von 75 Minuten pro Person und Tag entspricht. Durch Automatisierung solcher Aufgaben wie der Bearbeitung von E-Mails, der Archivierung von Dokumenten und der Erstellung von Berichten konnte die Anzahl der erfassten Dokumente um das 2,3-Fache erhöht werden.1
Dieser Effizienzgewinn sowie der Abruf von Informationen und Erkenntnissen nahezu in Echtzeit ermöglicht es den Mitarbeitenden, sich auf abrechnungsfähige Aufgaben zu konzentrieren, ohne dass dadurch die Fehlerquote steigt. Darüber hinaus hilft das KI-System beim Ausfüllen von Stundenzetteln basierend auf den Tätigkeiten der Mitarbeitenden sowie bei der Erstellung von E-Mails und Dokumenten – selbst dann, wenn die Mitarbeitenden keinen Zugang zum Internet haben.
„Das Team von Intel Disruptor pflegt einen sehr persönlichen Umgang mit allen Partnern. Das schätzen wir sehr, denn in der Zusammenarbeit mit anderen Unternehmen ist das oft nicht der Fall. In der Regel wird Start-ups ja davon abgeraten, mit großen Unternehmen zusammenzuarbeiten. Ich kann mit Fug und Recht behaupten, dass Intel da eine Ausnahme bildet.“ – Davit Buniatyan, CEO von Activeloop
Mithilfe von Intel® AVX-512 konnten die skalierbaren Intel® Xeon® Prozessoren der 4. Generation mehr Operationen pro Taktzyklus ausführen, sodass die Abfragegeschwindigkeit der Serverless Tensor Query Engine von Activeloop um das 100-Fache beschleunigt werden konnte.2 Die Ergebnisse erfüllten die strengen Sicherheitsanforderungen, die in stark regulierten Umgebungen wie z. B. Legal Tech unumgänglich sind.
„Wir freuen uns, dass wir im Rahmen des Intel Disruptor-Programms mit ZERO Systems zusammenarbeiten und dem Endkunden einen entscheidenden Mehrwert bieten können“, erklärt Arijit Bandyopadhyay, CTO of Enterprise Analytics & AI, Head of Strategy Cloud and Enterprise – CSV Group bei der Intel Corporation. „Die Leistung und TCO-Optimierung, die die Gen-AI-Lösung mithilfe von Intels neuer CPU-Generation bietet und die auf In-Silicon-KIBeschleunigern wie Intel® AMX und anderen KI-basierten SoftwareHardware-Assets fußt, trägt wesentlich zum Nutzen und zur Stabilität der Gesamtlösung bei.“
„Hier kommen die Intel CPUs voll zum Tragen“, meint Davit Buniatyan, CEO von Activeloop. Wenn GPUs nur begrenzt verfügbar sind, bieten Intel® Prozessoren die Rechenressourcen, die für die Ausführung und Feinjustierung von LLMs notwendig sind. „Mit dem leistungsstarken Dataloader und der Tensor Query Engine von Deep Lake können Pioniere wie ZERO revolutionäre Produkte, die auf generativer KI und Intel CPUs basieren, zu einem Bruchteil der Kosten entwickeln“, fügt Buniatyan hinzu.
„Darüber hinaus können Unternehmen die vorhandene und vertraute Architektur nutzen, ohne in teure neue Hardware investieren zu müssen“, so Gevorg Karapetyan, CTO von ZERO Systems. „Die Implementierung einer Lösung auf CPUs macht sie nicht nur viel effizienter und kostengünstiger, sondern macht es für die Kund:innen auch einfacher, die Lösung sofort zu nutzen, ohne Zeit zu verlieren.”
Wir freuen uns sehr, dass wir die vorhandenen Intel Systeme weiter nutzen können, und wir werden sicher weitere fortschrittliche KITechnologien einsetzen, um unsere Abläufe zu optimieren“, erklärt Maks Agamir, Director of IT bei Ropers Majeski.
Agamir ist überzeugt, dass sich die Leistung der Wissensarbeitenden von Ropers Majeski durch den Einsatz der mit Intel, Activeloop und ZERO entwickelten KI-Lösung und die Automatisierung repetitiver Aufgaben weiter verbessern wird. „Recht ist unser Kerngeschäft, nicht Technik“, so Agamir. „Unsere Anwält:innen und Fachangestellten waren froh, dass sie abends nicht mehr unzählige E-Mails und Dokumente verfassen müssen. Sie gucken nur noch drauf und sagen: „Alles klar, schon erledigt. Die KI hat sich schon darum gekümmert.“