헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 클라우드플레어, AI 추론 플랫폼 ‘워커스 AI’ 성능 개선

클라우드플레어가 서버리스 AI 추론 플랫폼인 ‘워커스 AI(Workers AI)’와 AI 애플리케이션 구축을 위한 여러 도구에 신규 기능을 도입했다고 30일 밝혔다. 이를 통해 개발자가 더욱 빠르고 향상된 성능의 AI 애플리케이션을 손쉽게 구축할 수 있도록 지원한다. 워커스 AI는 전 세계 어디에서나 사용자와 가까운 곳에서 AI 추론을 실행하고 글로벌 AI 애플리케이션을 구축할 수 있는 플랫폼이다. 이번 도입으로 워커스 AI에 구축된 애플리케이션은 추론 속도 향상, 대형 모델에 대한 지원, 성능 분석 등의 혜택을 누릴 수 있게 된다. 대형언어모델(LLM)의 규모가 점점 작아지고 성능은 향상됨에 따라 네트워크 속도가 고객의 채택과 원활한 AI 상호 작용에 장애물이 될 것으로 예상된다. 클라우드플레어의 글로벌 분산 네트워크는 네트워크 지연 시간을 최소화해 일반적으로 제한된 데이터센터에 집중돼 있는 자원으로 구성된 다른 네트워크와 차별화된다. 클라우드플레어의 서버리스 추론 플랫폼인 워커스 AI는 현재 전 세계 180여 개의 도시에 GPU를 배치해 전 세계 엔드유저에게 짧은 대기 시간을 제공하도록 설계됐다. 워커스 AI는 이러한 GPU 네트워크를 통해 모든 AI 플

이창현 기자

2024-09-30 10:11

프로덕트 어드밴텍, 산업용 베어본 PC ‘EPC-R7300’ 출시

산업용 임베디드 AI 솔루션 업체 어드밴텍이 엔비디아 Jetson Orin NX 및 Jetson Orin Nano 시스템 온 모듈을 위한 산업용 베어본 PC인 EPC-R7300을 출시했다고 16일 밝혔다. 엔비디아 Jetson Orin 모듈을 활용한 EPC-R7300은 최고 20-100 TOPS의 AI 성능을 낮은 전력 소비(7~25W)로 제공한다. EPC-R7300은 초소형 폼 팩터(152×173×50 mm)와 다양한 후면 I/O 구성 옵션을 갖추고 있어 엣지 인퍼런스를 사용하는 차세대 로봇, 감시 및 기타 응용 분야에 대해 우수한 유연성과 컴퓨팅 성능을 제공해 쉬운 AI 배포가 가능하다. 어드밴텍은 EPC-R7300 산업용 베어본 PC가 제작 캐리어 보드 및 RS-485, CAN 버스, 다중 이더넷 포트를 포함한 메인스트림 I/O 기능으로 구성되어 있어 엔비디아 Jetson Orin NX 및 Orin Nano 모듈과 완벽하게 호환돼 다양한 개발자들의 수요를 충족할 것이라고 밝혔다. EPC-R7300은 NVIDIA JetPack 5.1에서 지원되며 엔비디아 개발 키트에서 베어본 PC 혹은 다른 Jetson Orin 모듈간의 이전이 용이하다. 또한 AI 개발

이창현 기자

2023-05-16 12:02