LLMOps

10장. LLM과 LLMOps의 미래

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: [e-mail]

향후 10년간의 미래, LLMOps, LLM, NLP, 지식 그래프는 오늘날 우리가 상상하기 힘든 방식으로 융합될 것입니다. AI 시스템이 더 이상 먼 도구가 아니라 우리 삶의 모든 측면에 깊숙이 통합되어 있다고 상상해 보세요. 오늘날 가장 널리 사용되는 LLM조차도 다소 투박한 반복자이지만, 가까운 미래에는 언어에 대한 이해가 인간의 직관에 필적할 정도로 정교해질 것이라고 믿습니다. 이는 LLM의 새로운 특성 때문입니다.

현재 사용자가 LLM과 소통하는 주된 방식은 텍스트 기반 채팅이지만, 앞으로 몇 년 안에 LLM은 단순히 질문에 답하는 데 그치지 않고 복잡한 문제 해결에 참여하고 인사이트를 제공하며 창의성 자체의 경계를 넓혀갈 것입니다. 예를 들어, 2024년 9월, OpenAI는 풍자를 포함한 음성 톤을 감지할 수 있는 고급 음성 모드( )를 ChatGPT 애플리케이션에 출시했습니다. 이 작업의 대부분은 인프라 스택 전반에 걸쳐 임박한 혁신과 관련이 있습니다. Meta는 최근 이러한 모델을 대규모로 훈련할 때 발생하는 알고리즘과 아키텍처 이상의 문제( )에 대한 글을 썼습니다 ( 그림 10-1 참조).

LLMOps는 이러한 시스템이 원활하고 자립적인 인프라로 발전함에 따라 이를 지원하는 백본이 될 것입니다. 수동 개입 대신 이러한 모델을 학습, 미세 조정 및 배포하는 파이프라인이 완전히 자동화되어 이 분야의 발전 속도가 빨라질 것입니다. LLMOps 엔지니어는 코드 디버깅 시간을 줄이고 모델 학습과 컴퓨팅 비용의 균형을 자동으로 맞추는 플랫폼 및 인프라 설계 등 높은 수준의 시스템 전략을 개선하는 데 더 많은 시간을 할애할 수 있습니다.

그림 10-1. 신뢰성은 LLM의 핵심 목표이지만 인프라 수준에서 더 많은 혁신이 필요하기 때문에 메타조차도 이 문제에 어려움을 겪고 있습니다(출처: Engineering at Meta, 허가를 받아 사용).

이러한 모델은 거의 마법처럼 느껴질 정도로 빠른 속도로 실제 피드백을 통해 학습하면서 즉각적으로 적응할 것입니다. 이는 ML 분야에서 활발히 연구되고 있는 AutoML의 주요 목표였습니다. 가장 중요한 것은 LLM이 고품질의 번역 콘텐츠를 생성하기 시작하면 덜 일반적인 언어까지 더 쉽게 기능을 확장할 수 있다는 점입니다. 또 다른 흥미로운 점(그림 10-2)은 LLM이 다중 모드 입력을 사용하는 데 더 능숙해지고 있다는 점입니다. 현재 LLM은 텍스트, 음성, 이미지를 처리하는 데 몇 초밖에 걸리지 않으며, 음성-음성 번역을 위한 중요한 단계인 음성-텍스트 동시 번역에서 많은 진전이 이루어 지고 있습니다. 음성-텍스트 동시 번역 품질이 충분히 ...