AI 기반의 지능형 PII 탐지 파이프라인 소개 룰기반 개인정보 탐지 솔루션에 오탐이 많다는 고객의 니즈가 발생했다.PoC로 Presidio와 LLM를 사용하여 솔루션에서 오탐한 Input 텍스트를 대상으로 신한DS AI파트에서 준비한 PoC정보를 공유한다. 관심분야/생성형AI 2025.01.23
RAGAS 평가분석 RAGAS를 이용한 검색평가, 답변평가를 진행하고 있다. 1차, 2차, 3차 진행예정으로 현재 1차평가를 공유하고자 한다.대상 RAG는 상용솔루션, 벡터DB는 Qdrant, LLM은 업스테이지 솔라프로를 대상으로 진행하였다. 관심분야/생성형AI 2025.01.15
시스템1과시스템2의 병합 모델 open ai o1이 나온후에 시스템1과 시스템2가 병합된 모델이 나와야 진정한 AI모델이지 않을까라는 생각을 했었다.근데 벌써 나오다니 충격적이고 자체 테스트를 해보니 MoE아키텍처 기반이라 응답속도가 거의 sLLM급에 RAG연동도 훌륭한 성능을 보여주었다. 현존하는 오픈모델중의 최고의 모델이다.AGI가 25년에 더빨리 다가올듯하다. 관심분야/생성형AI 2025.01.06
Chain of thought 오픈AI에서 O3를 발표하므로써 AGI로 가는길에 이정표를 세운 느낌이다. 오픈모델도 중국의 약진이 두드러지고 생각보다 빠른 COT모델들이 나오고 있다. 이제는 점점 실제 AI가 되가고 있는것 같다 관심분야/생성형AI 2025.01.03