speaker-photo

Łukasz Kałużny

Managing Partner, Technology Advisor @ Protopia | Engineer, Microsoft Azure MVP

17:00-17:40

Meet Up 2023-2

Bezpieczeństwo Large Language Models w chmurze, czyli co?

Pierwszy kurz opadł po burzy hype'u wywołanej pojawieniem się dużych modeli językowych w szerokim świecie. Teraz czas na bardziej pragmatyczne podejście do tematu, szczególnie jeśli pracuje się w scenariuszach firmowych.Dobra implementacja to taka, która jest z perspektywy infrastruktury i wykorzystania modelu bezpieczna i nie spowoduje, że staniesz się memem w internecie ;-)W trakcie sesji przedstawię Ci podstawowe elementy bezpieczeństwa wdrożenia usługi Generatywnego AI z naciskiem na duże modele językowe tak byś nie popełnił łatwo błędów innych.Będzie m.in. o sieci i dostępie, monitoringu i logowaniu, uprawnieniach i paru innych drobiazgach, o których nie zawsze mówi dokumentacja dostawcy.