생성형 AI 서비스 취약점 ‘프롬프트 인젝션’, ‘불안전한 출력처리’, ‘민감정보 노출’ 발생 가능
이큐스트는 생성형 AI가 급속도로 발전하며 AI가 가져올 수 있는 보안위협에 관한 연구결과를 발표했다. 특히, 비영리단체인 OWASP에서 발표한 AI LLM(거대언어모델) 서비스에서 발생 가능한 10가지의 취약점을 이큐스트가 직접 분석하고 이 중 위험도가 높은...
한편 채널톡은 지난 4월 생성형 AI 에이전트 알프와 단순·반복 문의 응대에 필요한 액션을 제공하는 커맨드를 출시했다. 올 상반기 약 한 달간 패션 브랜드 '라룸', '유어메모'와 관련 서비스에 대한 비공개 베타 테스트를 진행해 상담원이 직접 상담하는 고객 문의를 30~45% 줄이는 성과를 거둔 바 있다.
이번 고도화를 통해 생성형 AI 기술을 업무 단위로 특화하고 △지식상담 서비스 △기업리포트 생성 △AI 고객 상담 시스템 등에 적용한다.
자체 개발한 생성형 AI 모델 자산화를 위해 생성형 AI 기술 인프라 구축도 병행한다. 그래픽처리장치(GPU) 학습 장비, 학습 데이터, 사람이 사용하는 대용량 언어를 이해하고 생성할 수 있는 AI 모델인 거대언어모델 알고리즘...
엔비디아는 생성형 AI 열풍이 일면서 AI 반도체 시장의 80% 이상을 점유하고 있다. 또 시가총액은 3조 달러(약 4166조 원)를 넘나들고 있다.
프랑스 당국은 지난달 28일 발행한 ‘생성형 AI 경쟁 보고서’에서 “AI 가속기에 필수적인 그래픽처리장치(GPU)와 100% 호환되는 유일한 시스템인 엔비디아의 쿠다(CUDA) 칩 프로그래밍 소프트웨어에 산업계가 지나치게 의존하고...
지난달 28일 서울 소공동 롯데호텔에서 열린 '세계경제연구원-신한은행 서울국제금융컨퍼런스'에서 우드 딜로이트 리드 파트너는 기술 혁신이 금융산업에 미칠 영향을 논하며 생성형 AI 활용 관련 리스크와 규제 대응을 위한 방안으로 '신뢰할 수 있는 인공지능(AI) 프레임워크' 구축 중요성을 강조하면서 이같이 말했다.
우드 파트너는 'AI·디지털 기술 혁명과 금융...
최근 세계는 생성형 AI, 초거대 AI, 고객 맞춤형 클라우드 등 IT 기반 자체의 지각 변동을 불러오고 있으며, AI가 기업 혁신을 이끄는 핵심 전략이 됐다. 그러나 벤처기업들은 현실적인 문제에 직면해 AI 경쟁력 확보를 위한 대응 전략 수립에 어려움을 겪고 있다.
실제 벤처기업 AX 설문조사 결과에 따르면, AI 전환을 계획 또는 추진 중인 기업은 69.3%로 10개 기업 중...
활용한 AI 신약개발 프로젝트를 수행한다.
멘토들은 산업계의 수요가 높은 프로젝트 주제를 선정, 팀 프로젝트 형식의 멘토링을 지원한다. 주제별 멘토는 △유전역학 기반 복잡질환 신약 타겟 발굴 및 검증(김상수 숭실대학교 명예교수) △저분자 화합물 생성 및 표적 단백질에 대한 활성 예측(남호정 광주과학기술원 교수) △단백질-리간드 결합 자유에너지...
법안을 발의한 한 의원실 측은 “우리는 생성형 AI를 가진 미국과 이것이 없는 유럽 사이에 있는 입장”이라며 “생성형 AI를 가지고 시장 기반을 넓혀야 하기 때문에 법안에는 고위험 AI만 명시하고, 명시하지 않는 AI에 대해서는 과기부 등 정부를 통해서 규제할 수 있다”고 했다.
모처럼 여야가 한목소리를 냈지만, 법안 통과까지 안심할 수는 없다는 관측이 나온다....
최근 중국 정부는 AI생성 콘텐츠에 엄격한 접근 방식을 취하면서 공산당 정책을 준수할 것을 기업들에 주문했다. 이로 인해 AI와 관련한 기업 활동에도 제약이 생겼다.
물론 중국에서도 저금리 대출 등 정부 지원을 받는 유망 기업들은 있다. 그러나 HB벤처스의 유팅초이 창업자는 “지원받는 기업들은 보통 중국 규제 환경에 맞춰 서비스를 제공하기 때문에 글로벌...
마지막 주에는 생성형 AI 기반의 해킹 공격에 대한 인식 제고를 위해 ‘AI 영상을 찾아라’ 이벤트를 진행한다.
류제명 과기정통부 네트워크정책실장은 “정보보호의 달을 맞이하여 진행되는 다채로운 행사와 이벤트에 모든 국민이 동참하여 정보보호의 중요성을 다시 한번 느끼고, 나아가 우리나라 정보보호의 힘이 글로벌 시대의 협력과 공조를 넘어 글로벌 파워로...
이 교육 과정은 최근 생성형 AI, 딥러닝 등 보편화로 정보보안의 중요성이 커지면서 관련 전문가를 양성하기 위해 마련됐다. IT 분야에 관심이 있는 숙명여대 학생 30명과 홍익대 등 타 대학 31명 등 61명이 참여했다.
이번 과정에서 학생들은 기업에서 활용되는 다양한 보안 업무를 직접 체험하며 외부와 내부로부터의 공격을 감지하고 대응하는 방법을 익혔다....
복잡하고 변동이 큰 복지 관련 상담을 자연어 기반 생성형 AI 검색 서비스로 제공해 민원인들이 쉽고 빠르게 정보를 찾도록 도와준다.
수원시 디지털정책과는 지난달 27일 수원시청에서 복지정책·휴먼콜센터 담당자, 주관사인 ㈜라이프로 관계자와 첫 회의를 열고, 본격적으로 사업에 착수했다.
수원시 관계자는 “전국 최초 생성형 AI 복지서비스 구축 사례가 될...
안랩클라우드메이트 고창규 대표는 “최근 서비스 적시성(Time-to-Market)과 생성형 AI가 부각되며 클라우드 네이티브에 기반한 기민한 대응과 정보보호 모두가 중요해졌다”며 “이번 통합으로 더 많은 고객이 안전한 클라우드를 클라우드답게 활용할 수 있도록 지원할 것"이라고 했다.
자이언트스텝은 리얼타임 콘텐츠 및 생성형 AI 솔루션 전문 기업이다.
원스텝은 사용자가 행사나 이벤트 내용을 글로 입력하면 AI가 그와 어울리는 광고 이미지를 생성하는 프로그램이다. 예를 들어 바닷가, 수박 등 여름과 연관된 키워드와 여유로운, 휴가 등 분위기를 설명하는 단어를 입력하면 ‘여름 해변 휴양지에서 여유롭게 휴가를 즐기고 있는 풍경’의...
한컴 한글·OCR SDK 브리티향은 삼성에스디에스(SDS)가 RPA·BPA 등 자동화 설루션에 생성형 인공지능(AI) 기능을 더해 선보인 ‘브리티 오토메이션(Brity Automation)’에 추가해 사용할 수 있는 자동화 라이브러리다. 한컴 한글 SDK 브리티향은 한컴의 대표 제품인 ‘한글(HWP·HWPX)’의 기능을 별도 프로그램 설치 없이 쉽게 제어할 수 있게 한다. 한글 문서 생성·변환...
로앤컴퍼는 생성형 AI와 법률 데이터를 이용해 변호사 업무를 효과적으로 지원하는 대화형 법률 AI 어시스턴트 ‘슈퍼로이어(SuperLawyer)’를 공식 출시한다고 1일 밝혔다.
슈퍼로이어는 로앤컴퍼니가 자체 설계한 아키텍처를 바탕으로 복수의 상용 거대언어모델(LLM)로 구현한 클라우드 기반 서비스형 소프트웨어(SaaS)다. 슈퍼로이어의 주요 스킬은 △법률 리서치...
글로벌 디지털 헬스케어 기업 마크로젠이 유전정보 기반 건강관리 플랫폼 ‘젠톡(GenTok)’에 생성형 AI를 탑재하고 맞춤형 유전상담 AI 챗봇 서비스 ‘젠톡AI’를 베타 오픈했다고 1일 밝혔다.
오픈AI 의 챗GPT(GPT-4o)를 기반으로 한 젠톡AI는 개인별 유전자검사 분석 데이터 입력을 자동으로 처리해 분석 결과를 요약해준다. 사용자는 비만, 탈모, 영양소, 식습관, 운동...
특히 현대차의 AI 기술 기반으로 탄생한 이응버스는 승객들의 수요에 맞춰 실시간으로 최적의 이동 경로를 생성해 운행하고, 같은 시간대에 경로가 유사한 승객이 예약하면 자동으로 우회 노선을 생성하고 합승할 수 있다.
현대차는 세종시와 함께 9월부터 교통패스인 ‘이응패스’도 도입할 예정이다. 이응패스는 이응 앱서비스 내에서 사용할 수 있는 월 정액제...
텔코 에지 AI 인프라는 에지 컴퓨팅(데이터를 생성 위치와 가까운 곳에서 처리·분석·저장하는 기술)에 AI 솔루션을 결합한 6G 인프라다. 올해 모바일 월드 콩그레스(MWC) 2024에서 6G 후보 주파수 대역 연구 성과로 선보였던 ‘6G 시뮬레이터’도 고도화 중이다.
KT는 5월 국제 이동통신 장비 제조사인 노키아와 6G 연구 협력을 위한 업무 협약을 체결했다....
이를 위해 금융사들은 하반기 주력 사업으로 △디지털 전환 가속화 △생성형 AI 내부 업무 도입 △디지털 플랫폼 경쟁력 강화를 꾀하고 있다. 금융사들은 생성형 AI를 활용한 ‘대화형 AI’ 서비스를 출시하거나 도입을 검토 중이다. 자체 대규모언어모델(LLM)을 개발해 고객 상담에 활용하거나 대출 및 보험상품을 추천하고 내부 업무 생산성을 높이는 방식이다.
!["금산분리 완화할 때 됐다" CEO 40% 요구…밸류업 기대감 높아[금융사 CEO 설문조사]](https://img.etoday.co.kr/crop/200/125/2044535.jpg)
![[상보] 국제유가, 차익 실현 매물에 하락…WTI 0.68%↓](https://img.etoday.co.kr/crop/85/60/2043583.jpg)
![[상보] 뉴욕증시, 파월 비둘기 날갯짓에 상승…S&P500 사상 첫 5500 돌파](https://img.etoday.co.kr/crop/85/60/2043055.jpg)
![[오늘의 청약 일정] '청주테크노폴리스아테라(A8)' 1순위 청약 등](https://img.etoday.co.kr/crop/85/60/2045868.jpg)
![[1보] 뉴욕증시 상승…다우 0.41%↑](https://img.etoday.co.kr/crop/85/60/2044026.jpg)
!['험지' 파리까지 D-24…올림픽 국가대표팀, '기회의 땅'으로 탈바꿈할까 [이슈크래커]](https://img.etoday.co.kr/crop/300/170/2045805.jpg)
![국회 과방위 전체회의 [포토]](https://img.etoday.co.kr/crop/300/190/2045863.jpg)