코알라 오딧세이

  • 홈
  • 태그
  • 방명록

intel #npu #gaudi #llm 1

AI 가속기 시리즈 - Gaudi(1)

안녕하세요. 현재 LLM의 고도화로 인해 다양한 LLM 기반의 AI 어플리케이션이 등장하고 있습니다. 대부분의 AI 어플리케이션은 ChatGPT, Claude와 같은 LLM 전문 기업이 제공하는 API를 활용하여 서비스되고 있습니다. 그러나 개인정보 보호, 비용 절감, 그리고 독립적인 시스템 운영을 원하는 많은 기업에서는 자체 서버에서 구동되는 Local LLM을 도입하는 추세입니다. Local LLM을 활용하면 기업 내부 데이터와 연동한 맞춤형 서비스 제공, 보다 빠른 응답 속도, 그리고 클라우드 의존도를 낮추는 등의 장점이 있습니다. 또한, 데이터 보안이 중요한 금융, 의료, 법률 분야에서는 Local LLM의 도입이 필수적이라 할 수 있습니다. 이처럼 LLM의 발전은 글로벌 클라우드 기반 솔루션뿐만..

AI/AI 가속기 2025.03.22
이전
1
다음
더보기
프로필사진

코알라 오딧세이

전문연구요원으로 AI를 연구하고 있습니다. AI, IT, 일상 등에 대해서 이야기합니다.

  • 분류 전체보기 (35)
    • 프로그래밍 (3)
      • Svelte (3)
      • 코딩 공부 (0)
    • AI (21)
      • Transformers 시리즈 (5)
      • LLM (8)
      • AI 가속기 (3)
      • Agent (4)
    • 전문연구요원 (1)
    • 기타 (0)
    • 일상 (1)
    • 대학원 수업 (6)
      • 비지도학습방법론 (2)
      • 빅데이터프로그래밍 (0)
      • 빅데이터서비스모델링 (4)
      • 데이터사이언스를 위한 지식관리시스템 (0)
      • 이미지 핸들링 (0)
      • 머신러닝 (0)
    • 프로젝트 (3)

Tag

Svelte, ㅎ, PagedAttention, 관광 #RAG #우수상, intel #npu #gaudi #llm, vllm, llm #exaone #exaone-deep #resoning,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/10   »
일 월 화 수 목 금 토
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

  • 플래이터 기술 블로그

티스토리툴바