Author: Hunter

Large Language Models (LLMs) have become integral to various artificial intelligence applications, demonstrating capabilities in natural language processing, decision-making, and creative tasks. However, critical challenges remain in understanding and predicting their behaviors. Treating LLMs as black boxes complicates efforts to assess their reliability, particularly in contexts where errors can have significant consequences. Traditional approaches often… Read more

업계의 AI 기술 혁신과 기업 내 활용 사이의 격차가 점점 벌어지고 있다. 그러나 이러한 현상이 기업 AI 전략에 큰 영향을 미치지는 않을 것이라고 전문가들은 진단하고 있다. 최근 오픈AI는 o3 프리뷰 모델에서는 인간 수준의 추론 능력이 구현됐다고 선언했다. ‘초지능’이 곧 등장할 것이라고 시사한 셈이다. 구글도 최근 로이터 넥스트 컨퍼런스에서 가까운 시일 내에 인공 일반 지능(AGI) 기능을… Read more

LLMs are essential in industries such as education, healthcare, and customer service, where natural language understanding plays a crucial role. Though highly versatile, LLMs’ challenge is adapting to new tasks. Most fine-tuning methods are resource and time-consuming. Moreover, the fine-tuning approach often results in overfitting or sacrificing general adaptability for task-specific performance. This is a… Read more

Large language models (LLMs) have become central to natural language processing (NLP), excelling in tasks such as text generation, comprehension, and reasoning. However, their ability to handle longer input sequences is limited by significant computational challenges, particularly memory overhead during inference caused by key-value (KV) caches. Since memory requirements scale linearly with sequence length, this… Read more

IBM은 로레알에 맞춤형 AI 파운데이션 모델을 구축해 연구혁신(Research & Innovation) 역량을 강화하고 나아가 전 세계 시장 모든 뷰티 카테고리에서 보다 우수한 소비자 경험과 제품 효능을 제공할 것이라고 밝혔다. 이는 뷰티, 화학, 기술의 접점에서 AI 혁신을 통해 만들어진 업계 최초의 제형(formulation) 파운데이션 모델이 될 전망이다. 이번 협업은 로레알이 보유한 화장품 과학 전문성과 IBM의 첨단 인공지능 기술을… Read more

클라우드 기반 데이터웨어하우스 기업 스노우플레이크가 생성형 AI 애플리케이션을 운영하는 기업의 추론 워크로드 비용을 절감하기 위해 설계된 독점 기술인 스위프트KV의 성능 수준을 공개했다. 이는 지난해 12월 오픈소스로 공개됐다. 스노우플레이크는 생성형 AI 애플리케이션의 추론 비용이 여전히 높아 기업이 애플리케이션을 확장하거나 새로운 사용 사례에 생성형 AI를 도입하는 데 걸림돌이 되고 있다고 설명했다. 스위프트KV, “KV 캐시 압축 능가” 스노우플레이크의… Read more

새로운 엔비디아 NIM 마이크로서비스는 소프트웨어 도구 모음인 엔비디아 네모 가드레일(NeMo Guardrail)의 일부다. 새로운 마이크로서비스는 기업이 에이전트 AI 애플리케이션의 정확성, 보안 및 제어 기능을 개선할 수 있도록 지원함으로써 이 기술과 관련한 주요 우려 사항을 해결하는 것을 목표로 한다. 네모 가드레일은 개발자가 거대 언어 모델(large language model, LLM) 애플리케이션에 AI 가드레일을 통합하고 관리할 수 있도록 지원한다. 업계… Read more

가트너는 향후 3~4년 동안 애플 인텔리전스(Apple Intelligence), 챗GPT(ChatGPT), 구글 제미나이(Google Gemini), 메타 AI(Meta AI) 등이 기존의 앱 기능을 대체함에 따라 결과적으로 앱 사용이 줄어들 것으로 예상했다. 아울러 앱이 여러 브랜드와 회사에서 통합되어 모바일 앱 파트너십 또는 컨소시엄이 출현할 것으로 예측했다. 또 이런 변화로 인해 앱을 통해 연결되고 도달하는 고객의 수가 대규모로 증가하면서, 제작 및 유지… Read more

Job listings posted in China this week indicate that Xiaohongshu, also known as RedNote, is struggling to handle an influx of new users joining the platform from TikTok. Read more

The same lawyers handling a lawsuit over the infamous Hawk Tuah crypto coin are bringing a new class action against memecoin platform Pump.Fun for allegedly putting investors in high financial risk. Read more