I takt med at AI bevæger sig fra eksperimenter til reel implementering og produktion, oplever flere virksomheder en ny udfordring. Forbrugsbaseret afregning af AI-tjenester i public cloud gør det vanskeligere at forudsige og styre omkostningerne inden for traditionelle IT-budgetter.

Det daglige tokenforbrug kan stige uventet og få omkostningerne til at vokse markant, mens faste forbrugsgrænser hurtigt kan bremse innovationen. Flere virksomheder peger derfor på et centralt spørgsmål. Hvordan holder vi omkostningerne under kontrol og samtidig skaber bedre rammer for fortsat innovation?

På denne roundtable vil du sammen med andre ligesindede dele erfaringer om, hvordan man kan navigere i AI-tokenøkonomien. I stedet for at betragte public cloud med deres LLM’er og reasoning-modeller som standardvalget vil vi undersøge, hvordan forskellige deployment-modeller, fra hybrid cloud til målrettede on-premises AI-platforme, kan skabe den rette balance mellem omkostninger, performance og innovation.

Aftenen er tilrettelagt som en åben dialog med ligesindede, hvor deltagerne kan dele erfaringer, udfordre eksisterende arbejdsmetoder og arkitekturer samt diskutere praktiske tilgange til at opbygge forudsigelige og skalerbare AI-løsninger. Det hele foregår i hyggelige og uformelle rammer over en treretters middag, hvor værten faciliterer dialogen og sikrer, at alle kommer til orde.

• Deling af erfaringer med rejsen fra eksperiment til produktion og efterfølgende skalering i public cloud.

• Hvordan overvåger andre virksomheder AI-forbruget?

• Hvordan sammenligner man omkostninger på tværs af public cloud-platforme, og hvordan opbygger man business cases for en on-premises AI platform?

• Hvordan anvender virksomheder promptoptimering, caching, batch processing og dynamisk multi-model-routing til at øge effektiviteten og reducere omkostningerne?

• Hvilke arkitekturmæssige konsekvenser har optimering af AI-omkostninger? Hvordan påvirker eksempelvis prisforskellen mellem input- og output-tokens designet af AI-applikationer?

• Hvordan indarbejdes krav til kontrol over data, beskyttelse af intellektuelle rettigheder og andre aspekter af data management for at understøtte compliance og reducere risici?

    Vi udforsker sammen:

• Praktiske erfaringer fra andre ledere med at håndtere udsving i tokenforbruget.

• Praktiske metoder til at kategorisere AI-use cases og workloads for at opnå det optimale forhold mellem pris og performance.

• Perspektiver på hybride deployment-modeller, herunder on-premises AI platforme på open source og eget hardware.

C-level, Heads of Infrastructure & Platforms, Heads of Data & AI, Enterprise Architects samt andre teknologiledere, der ønsker at udforske strategier for at opbygge og skalere AI og samtidig bevare finansiel og operationel kontrol.

OBS: Vi løber alle tilmeldinger igennem i takt med, at de kommer ind. Man er ikke sikret en plads, førend man modtager endeligt godkendelse. 

Briefingen afholdes i TÅRNET hos IDA Conference på Kalvebod Brygge 31-33 i København.