LLM
LLM
image

[2025 e4ds Tech Day]“온디바이스 AI 시대, 경량화 기술이 핵심”

▲조석영 Nota AI 매니저가 ‘2025 e4ds Tech Day’에서 ‘온디바이스 AI를 위한 하드웨어 인지 AI 모델 최적화 솔루션 및 성공 사례’에 대해 발표하고 있다.   각 하드웨어 병렬 ..

2025.10.20by 배종인 기자

image

델, 책상 위에서 2,000억 매개변수 LLM 구현

▲‘델 프로 맥스 위드 GB10’은 엔비디아 GB10 그레이스 블랙웰(NVIDIA GB10 Grace Blackwell) 슈퍼칩을 탑재해 AI 개발을 위한 압도적인 성능을 제공한다.   ‘프로 맥스 위드 GB1..

2025.10.14by 배종인 기자

image

데이터브릭스, 오픈AI와 파트너십 체결…GPT-5 기반 프론티어 인텔리전스 제공

에이전트 브릭스에 오픈AI 최신 모델 네이티브 통합 글로벌 데이터 및 AI 기업 데이터브릭스(Databricks)가 오픈AI와 협업해 자사 멀티 클라우드 환경을 이용하는 고객들에 GPT-5를 비롯한 오픈AI 모델을 활용할 수 있도록 하며, 엔터프라이즈 AI 시장에..

2025.09.26by 배종인 기자

image

“낮은 사양에서도 고성능 LLM 구현”

  노타, ‘LLM 최적화 서비스’ 공식 출시 낮은 사양에서 하드웨어 교체 없이 고성능 LLM을 구현할 수 있는 서비스가 등장해 LLM을 이용하려는 기업들의 비용 효율성과 기술 경쟁력 확보에 유리할 것으로 기대가 모아..

2025.09.25by 배종인 기자

image

“AI 적용 위한 PoC는 끝났다, 온프레미스 전환해야”

▲델 테크놀로지스 조용노 전무가 미디어 브리핑을 진행하고 있다.   델 AI 팩토리 하드웨어 인프라부터 서비스까지 E2E 제공 기업들 유스 케이스 넘어 실질적인 성과 내는 단계 전환 “PoC의 시대는 끝났다. 이제는 실질적인..

2025.09.17by 배종인 기자

image

“현재는 AI와 인간의 경주 시대, AI 극복하고 활용해야”

▲김경진 델 테크놀로지스 코리아 총괄사장이 ‘델 테크놀로지스 포럼(Dell Technologies Forum’에서 인사말을 하고 있다.   AI 영향력 IT 산업에 국한되지 않아, 공공기관·정부 역시 AI 도..

2025.09.17by 배종인 기자

image

SKT, 자체 LLM 기술로 초거대 AI 모델 도전…A.X 3.1·4.0 4종 전격 오픈소스 공개

크래프톤·포티투닷·리벨리온·서울대·KAIST 등 10여개 기관 참여 SK텔레콤(대표이사 유영상)이 자체 LLM 기술로 초거대 AI 모델에 도전한다. SKT는 24일 글로벌 오픈소스 커뮤니티 허깅페이스(Hugg..

2025.07.24by 배종인 기자

image

잠재 추론 트랜스포머 모델 출현, HBM 지고 PIM 도래

  잠재공간 ‘되새김질’ AI, 추론 경량화 혁신 비싼 HBM 대신 효율적인 PIM 가능성 高 챗GPT에서 시작된 AI 열풍은 모델 크기와 성능을 비약적으로 발전시킨 반면, 막대한 컴퓨팅 자원과 메모리 용량을 요구하며 AI..

2025.02.17by 권신혁 기자

image

​솔트웨어, LLM 기반 AI 에이전트 도입

  AWS 기술지원 시스템 고도화 AI 전문 기업 솔트웨어가 기존 AWS 기술지원 시스템에 자체 개발한 생성형 AI 기반 어시스턴트 AI를 추가해 현업에 적용했다고 13일 밝혔다. 이번에 도입된 어시스턴트 AI는 AI 에이전트를 활용, 고객..

2025.02.13by 권신혁 기자

image

​AI 성능, 스토리지 네트워크 영향 高

  AI, 멀티모달화·모델크기↑, 스토리지 패브릭 확장 必 엔비디아 스펙트럼-X, AI 스토리지 최대 48% 가속화 스토리지 성능은 AI 수명주기의 여러 단계에서 핵심적인 역할을 한다. GPU를 연결하는 네트워크가 AI 애..

2025.02.06by 권신혁 기자

1 2