벡타라, 생성 AI 응답의 투명성 향상 위해 업그레이드된 휴즈 환각 평가모델 기반 사실 일관성 점수 출시

벡타라, 서버리스 RAGaaS 플랫폼 통해 업계 최초로 오픈소스 휴즈 환각 평가모델(HHEM) 기반 사실 일관성 점수(Factual Consistency Score) 도입

세밀한 정확성과 환각 평가 제공으로 AI 응답 투명성과 사용자 제어 향상

뉴스 제공

Vectara

2024-03-27 10:20

팔로알토, 캘리포니아--(Business Wire / 뉴스와이어)--신뢰받는 생성형 AI 제품 플랫폼인 벡타라(Vectara)는 지난 11월 출시된 후 허깅페이스(Hugging Face)에서 10만회 이상의 다운로드를 기록한 최고의 환각 감지 모델인 휴즈 환각 평가모델(Hughes Hallucination Evaluation Model, HHEM)의 진화된 버전을 기반으로 한 사실 일관성 점수(Factual Consistency Score, FCS)를 모든 생성형 응답에 포함한다고 발표했다. 관련된 환각 리더보드(Hallucination Leaderboard)는 이제 LLM이 평균 사실 일관성을 벤치마킹하는 방법에 대한 업계| 표준이 되었다. 벡타라의 엔드투엔드 서비스형 검색 증강 생성(Retrieval Augmented Generation-as-a-service, RAGaaS) 플랫폼은 실시간 엔드투엔드 RAG 관찰성을 제공하여 생성형 AI의 응답 투명성에 대한 업계 최초의 기능으로 새로운 표준을 설정한다. 이 혁신적인 지표는 벡타라의 RAGaaS 플랫폼 내에서 요약된 응답의 사실 일관성에 대한 전례 없는 가시성을 제공하여 사용자가 상세한 정확도 점수를 기반으로 응답 수락에 대한 개인화된 임계값을 설정할 수 있도록 지원한다.

시장에 출시된 LLM의 평균 환각률이 3%~16.2%에 이르기 때문에 알 수 없는 응답 부정확성이 발생할 위험이 여전히 주요 관심사로 남으면서 생성형 AI라는 강력한 기술이 기업에 널리 채택되는 것을 방해되고 있다. 벡타라는 생성된 응답이 환각인지 아닌지를 평가하는 사실 일관성 점수를 기업에 제공하여 이러한 모호성을 완화한다. 기업은 표준화되고 과학적으로 계산된 응답 평가 방법을 통해서만 생성형 AI를 비즈니스 핵심 애플리케이션에 책임감 있게 도입할 수 있다. 사용자는 상세한 정확도 점수를 기반으로 응답 수락에 대한 임계값을 설정할 수 있으므로 제품 팀은 선호도에 따라 이 정보에 대한 조치를 취할 수 있는 유연성을 얻게 된다.

벡타라의 사실 일관성 점수는 생성형 AI의 획기적인 도구로, 실시간 환각 감지에 대한 새로운 벤치마크를 설정하고, 우수한 성능, 경제성 및 속도를 제공하여 신뢰도에서 큰 도약을 이룬다. 효율성과 효과를 통해 기업은 환각 응답으로 인해 발생할 수 있는 책임에 노출될 걱정 없이 생성형 AI를 중요한 제품 사용 사례에 배포할 수 있다.

벡타라의 사실 일관성 점수는 개발자가 내부 Q&A 시스템부터 최종 소비자와의 상호 작용 품질에 이르기까지 광범위한 애플리케이션을 개선하고 향상할 수 있는 기능을 제공한다. 이 점수의 강점은 직접적인 확률로 해석할 수 있도록 보정된 점수라는 데 있다. 예를 들어 0.98의 점수는 사실 일관성의 확률이 98%임을 나타낸다. 이는 보정을 무시하여 명확성과 직접적인 해석 가능성을 희생하는 많은 최신 머신러닝(ML) 분류기와 뚜렷한 대조를 이룬다.

요비(Yobi) 앱의 설립자 겸 최고경영자 아흐메드 레자(Ahmed Reza)는 “벡타라의 사실 일관성 점수를 요비 앱에 통합하면 비즈니스 사용 사례에 대한 AI 투명성과 정확성을 처리하는 방식이 혁신적으로 바뀔 것이다. 우리 플랫폼에서 제공되는 응답에 대한 가시성과 책임성을 제공함으로써 우리는 기업이 신뢰할 수 있는 책임 있는 AI에 대한 우리의 약속을 충실히 지킬 수 있다”면서 “벡타라의 공동 혁신 파트너로서 우리는 이러한 첨단 기술이 벡타라 플랫폼에 직접 통합되는 것을 보게 되어 매우 기쁘다”고 말했다.

사실적 일관성 점수를 강화하는 고급 HHEM은 이전에 출시된 오픈소스 버전보다 더 큰 가시성을 제공하여 향상된 정확성과 확장된 언어 지원을 제공한다. 이 이니셔티브는 투명성과 통제를 통해 기업이 AI 대응을 효과적으로 관리할 수 있는 자율성을 갖도록 지원하기 위한 벡타라의 노력의 일부이다.

벡타라의 공동 설립자 겸 최고경영자 아마르 아와달라(Amr Awadallah)는 “생성된 콘텐츠의 관련성과 품질을 높이기 위해 RAG를 개척한 우리의 초기 단계에서와 마찬가지로 생성형 AI의 환각을 완화하려는 노력에 대해 완전히 개방적인 자세를 취함으로써 우리는 다시 한번 책임 있는 AI의 최전선에 서게 되었다”며 “고객에게 사실 일관성 점수에 대한 실시간 액세스를 제공함으로써 우리는 단순히 신뢰성을 구현하는 데 그치지 않고 통제권을 넘겨줘 RAGaaS 플랫폼에서 생성된 응답을 활용하는 방법에 대해 정보에 입각한 결정을 내릴 수 있도록 지원한다”고 말했다.

벡타라 소개

벡타라(Vectara)는 강력한 생성형 AI 기능을 애플리케이션에 내장하여 놀라운 결과를 얻을 수 있는 엔드투엔드 플랫폼이다. 엔드투엔드 검색 증강 생성(Retrieval Augmented Generation, RAG) 플랫폼인 벡타라는 안전하고 신뢰할 수 있는 진입점을 통해 올바른 답/조치에 대한 최단 경로를 제공한다. 벡타라는 데이터를 훈련하지 않으므로 기업은 데이터 또는 개인정보 침해 위험 없이 생성형 AI 기능을 내장할 수 있다. 웹사이트: vectara.com

이 보도자료는 해당 기업에서 원하는 언어로 작성한 원문을 한국어로 번역한 것이다. 그러므로 번역문의 정확한 사실 확인을 위해서는 원문 대조 절차를 거쳐야 한다. 처음 작성된 원문만이 공식적인 효력을 갖는 발표로 인정되며 모든 법적 책임은 원문에 한해 유효하다.

사진/멀티미디어 자료: https://www.businesswire.com/news/home/53913805/en

웹사이트: https://vectara.com