구글에서 발표한 새로운 신경망 아키텍처가 기대된다.
시사점은 기존 LLM모델과 다르게 메모리의사용, 적은 파라미터로 대용량 파라미터를 능가하는 성능을 제공하기 때문이다.
앞으로 노트북, 핸드폰, 온디바이스등의 장비에 적용되면 앞으로의 미래가 어떻게 될지 모르겠다.
70B모델대비 0.7B모델이 더 뛰어난성능을 보여주는것이기에 기대해 볼만한 발표인듯하다.
트랜스포머 아키텍쳐 > 큐스타 아키텍처 > Titans 아키텍처로 가는것인지 두고 보자
'관심분야 > 생성형AI' 카테고리의 다른 글
| Dense벡터 유사도검색 + Sparse 벡터 유사도검색 (0) | 2025.02.05 |
|---|---|
| 좌동과상동처리 (0) | 2025.02.04 |
| AI 기반의 지능형 PII 탐지 파이프라인 소개 (0) | 2025.01.23 |
| RAG 검색 히팅율 올리기 (0) | 2025.01.21 |
| RAG 평가 분석 후 개선방안 (0) | 2025.01.21 |