본문 바로가기
반응형

-291

Retrieval-Augmented Generation with Knowledge Graphs forCustomer Service Question Answering 원문: https://arxiv.org/html/2404.17723v1 Retrieval-Augmented Generation with Knowledge Graphs for Customer Service Question AnsweringIn defining the knowledge graph structure for historical issue representation, we employ a dual-level architecture that segregates intra-issue and inter-issue relations, as illustrated in Figure 1. The Intra-issue Tree 𝒯i⁢(𝒩,ℰ,ℛ)subscript𝒯arxiv.org이 연구는 고객 서비스 분야.. 2024. 12. 1.
[나는 리뷰어다] 밑바닥부터 시작하는 딥러닝 5 "한빛미디어  활동을 위해서 책을 제공받아 작성된 서평입니다."  『밑바닥부터 시작하는 딥러닝』 시리즈의 새로운 책 등장!딥러닝 공부하면서 한 번쯤은 봤을 '밑시딥' 시리즈가 이번에는 생성 모델을 다룹니다. 밑시딥 시리즈로 스터디를 꾸준히 진행하고 있었는데요. (https://aiheroes.ai/community/104) 곧 밑시딥4 스터디를 시작하려는 참에 밑시딥5를 먼저 접하게 되었습니다. 밑시딥5에서는 특히 요즘 핫한 이미지 생성 AI 모델 Stable Diffusion의 핵심 기술인 확산 모델을 상세히 파헤치고 있습니다. 시리즈를 쓴 사이토 고키 교수의 특유의 친절한 설명이 이번에도 빛을 발합니다.기초부터 차근차근, 하지만 제대로책의 매력은 뭐니뭐니해도 탄탄한 구성입니다. 정규 분포와 MLE 같.. 2024. 11. 27.
HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction 원문: https://arxiv.org/pdf/2408.04948v1 1. 하이브리드 RAG의 필요성과 금융 정보 추출금융 애플리케이션에서 비정형 텍스트 데이터의 복잡한 정보를 추출하고 해석하는 것은 LLMs에게 여전히 큰 도전 과제이다 . 도메인별 용어와 복잡한 문서 형식으로 인해 전통적인 Vector RAG기법은 금융 문서에서 정보 추출에 한계가 있다 . 하이브리드 RAG는 Knowledge Graphs 기반의 Graph RAG와 Vector RAG기법을 결합하여 정확하고 맥락에 맞는 답변을 생성하는 새로운 접근 방식이다 . 실험 결과, 하이브리드 RAG는 전통적인 Vector RAG와 Graph RAG보다 정보 검색 정확성과 답변 생성에서 더 뛰어나다 . 제안된 기술은 금융 분야를 넘어 다양한 영역.. 2024. 11. 24.
The Surprising Effectiveness ofTest-Time Training for Abstract Reasoning 원문: https://arxiv.org/pdf/2411.07279Abstract언어 모델은 훈련 데이터 내의 작업에서는 뛰어난 성능을 보이지만, 복잡한 추론이 필요한 새로운 문제에서는 종종 어려움을 겪습니다. 우리는 테스트 시점 학습(Test-Time Training, TTT)을 사용하여 모델의 추론 능력을 향상시키는 방법을 연구했습니다. TTT란 추론(모델 예측)을 수행하는 동안 입력 데이터를 기반으로 한 손실(loss)을 이용해 모델의 파라미터를 임시로 업데이트하는 기법입니다. 이 연구에서는 추상적 추론 데이터셋(ARC, Abstraction and Reasoning Corpus)을 벤치마크로 사용하여 TTT의 효과를 평가했습니다. 실험을 통해 TTT를 성공적으로 적용하기 위해 필요한 세 가지 중요한.. 2024. 11. 17.
반응형