생성AI 답변은 일부 내용이 틀려도 전체가 정확한 것처럼 읽힐 수 있다. 기업 실적을 설명하면서 매출 증가율을 잘못 쓰거나, 유지된 전망을 상향했다고 서술하면 같은 답변에 포함된 정확한 수치까지 판단을 오도하는 데 쓰일 수 ...

대출 심사는 금융 서류에 적힌 소득과 현금 흐름을 토대로 상환 능력을 판단한다. 그러나 숫자를 정확히 추출해도 서류가 위조됐다면 심사에 쓰이는 정보의 신뢰성이 떨어진다. 문서 처리 자동화에는 정보 추출과 함께 진위 검사도 ...

기업 재무 부서에서 AI는 계획 수립과 보고, 사업 분석에 활용되고 있다. KPMG가 20개국·13개 산업의 재무 분야 고위 책임자 1013명을 조사한 2026년 보고서에 따르면, 재무 업무에서 AI를 적극 활용하는 비율은 ...

오늘 암호화한 데이터도 미래에 충분한 성능의 양자컴퓨터가 등장하면 해독될 수 있다. 공격자가 암호화된 정보를 먼저 수집한 뒤 나중에 해독하는 ‘선수집·후해독’ 위험 때문이다. 금융 기록과 의료정보, 정부 기밀, 기업의 핵심 ...

기업 웹사이트는 조사 대상 AI 지역 검색 인용의 약 42%를 차지했다.구글 지도에서의 업체 노출이 AI 답변의 추천으로 그대로 이어지지는 않았다.기업은 자사·외부 정보를 일치시키고 AI 노출과 실제 고객 유입을 별도로 ...

기업이 AI 모델을 도입하려면 업무 수행 능력과 이용 비용, 실행 환경을 함께 확인해야 한다. 높은 평가 점수를 받은 모델이라도 예산이나 보유 장비에 맞는지는 별도로 검토해야 한다. 이터널 테크놀로지스의 공식 모델 선정 ...

AI가 정교한 유인 메시지 제작 비용을 낮추면서 로그인 중계 공격에 대한 우려가 커지고 있다.윈매직은 사용자 인증과 이후 통신 보호를 암호키로 연결해야 한다고 주장한다.기기 기반 로그인은 현재 적용할 수 있지만, 애플리케이션 ...

AI 에이전트의 이용량이 늘어도 고객이 원하는 일을 해결했는지는 별도로 확인해야 한다. 질문이 많아진 이유가 관심 증가인지, 답을 얻지 못한 고객의 반복 요청인지 사용 횟수만으로는 구분하기 어렵다. 실행 비용과 응답 속도 ...

의료기관의 79%가 AI 에이전트 등 비인간 신원을 충분히 관리하지 못한다고 답했다.77%는 특정 민감정보에 접근할 수 있는 계정을 즉시 파악하지 못한다고 응답했다.넷릭스는 AI 에이전트를 늘리기 전에 기존 접근권한과 권한 ...

악성 이메일과 사용자의 메일 확인 요청만으로 AI 에이전트 실행 환경에 접근하는 공격이 실증됐다.보안 장치는 위험을 탐지했지만 코드 실행 뒤 경고해 공격을 막지 못했다.해당 취약점은 수정됐으며, 연구진은 에이전트 권한 제한과 ...

AI와 블록체인을 활용한 서비스에서 이용자의 신원을 확인하는 일만큼 자격과 권한, 동의 여부를 검증하는 일이 중요해지고 있다. 보호자가 고령자를 대신해 복지를 신청하거나 디지털자산을 거래할 때도 누가 어떤 권한으로 참여하는지 ...

기업의 고객정보와 계약서, 소스코드는 일상적인 이메일 업무 중에도 외부로 유출될 수 있다. 직원이 고객 명단을 개인 주소로 잘못 보내거나 퇴사 예정자가 기술 자료를 반출하는 경우다. 공격자가 직원 계정을 탈취해 민감한 파일을 ...