107,516
184
⏱ 그래프 타임라인
00:00 ?오프닝
01:11 ?데이터센터 거치지 않고 기기에서 바로 쓰는 온디바이스 AI
04:13 ?모든 기기에 AI를 심는다… 핵심은 '소형화'와 '전문화'
08:26 ?레이스에서 뒤처진 기업의 반격? 온디바이스에서 역전 노린다
11:01 ?온디바이스 코리아의 반격… 국내 기업의 약진
* 온디바이스(on-divice → on-device) 철자를 정정합니다
(00:44, 01:45, 02:00, 02:28, 03:00, 04:50, 11:47)
? 마부작침, 방대한 데이터 속에서 송곳 같은 팩트를 찾다
X: @SBSDataJ
? 오그랲, 복잡한 이슈를 5가지 그래프로 한 눈에
Instagram: @mabunews
? 유튜브보다 빠른 오그랲 뉴스레터
https://mabunews.stibee.com/subscribe
2025-09-17 21:02
애플이 온디바이스 이고 삼성이 데이터센터를 이용하기에 퀄리티가 삼성이 더 좋을거에요. 모든 사람들이 그럴거에요. 온디바이스가 데이터센터를 이길수없다고. 근데 인생을 살고나서부터 항상 그 기술한계의 벽이 무너지는걸 수도없이 봤습니다. 언젠가는 온디바이스가 더 강력해지지 않을까 싶습니다.
2025-09-18 20:00
온디바이스는 결국 개인화 소형화로 작고 가벼운 대답을 하는 인공지능의 영역이고, 어렵고 실제 생산에 들어가는 인공지능들은 요즘 120B 같은 파라메터를 어마어마하게 크게 가져가는 영역으로 가고 있음. 그리고 그 영역에선 여전히 GPU (쿠다) 와 HBM의 세계임. 온디바이스가 일부를 대체할 수 있어도 사소한 영역이고, 유비쿼터스 초연결 시대엔 결국 서버에서 작동값을 받아오는게 온디바이스보다 훨씬 안정적으로 작동할 수 있음. 결국 온디바이스는 아직까진 한계가 분명하고 꽤 먼 미래임.
2025-09-18 19:05
?
2025-09-18 18:56
온디바이스 AI의 핵심은 SLM이 들어가야되는거고 SLM을 만들려면 그만큼 정제된 데이터가 필요하니 이 정제된 데이터를 만들기 위한 리소스가 장난아니게 들어가겠네
AI를 결정짖는거는 AI 모델이 아닌 데이터라는거가 정확한 말이네 그렇다고 온디바이스 AI가 ChatGPT 성능까지 내기는 쉽지 않을듯 디바이스 내에서 할수있는 기능들 즉 Agent 느낌이 강한거같음
2025-09-18 17:33
ㅎㅎ gpu가 필요없다니 웃고갑니다?
2025-09-18 16:57
마지막 부분 너무 좋았네요 이런 내용 다루어주셔서 감사합니다
2025-09-18 16:26
먼 소리야 이런 헛소리는.. 학습에 필요한 것과 학습한 데이타를 뽑아내서 이용하는것과 차이지.
프로그래밍 언어 필요 없다는 소리랑 같은 소리하네.
2025-09-18 15:41
Device 아닌가용?
2025-09-18 15:28
8:40 딥마인드를 보유하고 있는 구글이 하위권이라고요…?
2025-09-18 14:52
AI 가 특히 법률에 특화 된 서비스가 출시되었으면 합니다. 과연 판사들이 가만히 있을런지.
2025-09-18 14:47
온디바이스AI가 뭔지 궁금하면 애플 Ai 보면됨 ㅇㅇ
2025-09-18 14:40
온디바이스 AI 개발하는데 GPU가 몇십만장이 들어가는건데
원래 작동보다 학습이 문제여서 엔비디아가 날라가는거에요....
이미 추론에서는 AMD, 구글TPU, 브로드컴 제품들 다 쓰고있는데, 학습 성능에선 엔비디아에 비비는 곳이 한 곳도 없으니 독점이라고하는겁니다.
2025-09-18 14:20
아이폰도 이걸 하려는건가?
2025-09-18 12:58
내가 알지 못하는 기기이고 지식으로 가득하군요 ㅎㅎㅎ
2025-09-18 12:25
온디바이스 기계자체에 무리는 주지 않는 건가?
미국은 데이터센터 냉각화까지 생각하면서 만들고 있는데, 짜투리 하나 먹을려고 너무 애쓰는 듯
2025-09-18 12:02
중국 AI 패권에 대해 눈감고 희망회로를 많이 돌리긴 했지만, 어쨋든 벤치 앉은 것은 아니라, 너무 다행이다.
특히 윤돼지 아니라서
2025-09-18 11:52
ㅋㅋㅋ 절대 비효율, 가능은 하나 진짜 장난감 수준, 해본입장에서 그냥 대형모델하고 상대가안됩니다. 비디오램 24gb 이하로 기웃거리는 자체가 시간낭비임.
마치 5g네트워크 시대에
집안에 홈네트워크 모뎀으로 56k 구축 성공
이러는것과 같음
2025-09-18 11:21
좋은 자료 감사합니다 ❤
2025-09-18 11:13
페르소나ai 유승재 대표는 GPU 부족 문제를 언급하며, 자신들의 기술이 이를 해결할 수 있다고 주장 하지만 엣지 AI는 대규모 연산이 필요한 범용 AI와는 시장과 역할이 다르므로, GPU 부족의 근본적인 해결책 아닙니다. ㅎㅎ 소형차로 도로정체를 해결할 수 있다는 식의 논리적 비약일뿐.
2025-09-18 11:10
5:49 양아치가 답이라니...
2025-09-18 10:59
온디바이스 AI로 개발해본 사람이라면 향후 최소 5년동안은 어림도 없다는걸 알거... 성능면에서 걍 답도 없음 지금은 그냥 이런것도 있다 또는 LLM서버에 요청을 보내기 전에 최적화하는 보조 역할 이정도임
2025-09-18 10:56
애플이 이거 하겠다고 지금 것 몇년째 삽질 중
이번 아이폰에서도 결국 못 함 내년에도 못 할 듯 아마 계속 못 할 듯
2025-09-18 10:22
이제 용도별 AI기기도 들고 다녀야 하네. 방, 차, 사무실에도 하나씩 놓고. 웨어러블도 걸고, 달고, 차고, 쓰고, 끼고.
2025-09-18 10:16
온디바이스ai가 발전하는것은 알겠는데 이제 gpu는 필요없다는 소리는 뭔뜻인지. 고차원추론과 답변을 위해서는 여전히 필요한것이 gpu인데. 제목으로 낚시하지 마시길.
2025-09-18 10:03
규모의 경제 실현이 불가능에 가까워서 온디바이스가 대세가 되기는 힘들것 같은데
2025-09-18 10:02
휴전국이니까 온디바이스가 필수인 나라
2025-09-18 09:52
컴퓨터가 칩화되는데 온디바이스도 미니 나노화될듯.
2025-09-18 09:51
사실상 광고방송인데 유료광고 표시라도 좀 해라 공중파는 양심이 없어 이래놓고 맨날 유튜버만 까지
2025-09-18 09:50
사기다 속지마다
하드웨어가 쓰레긴데
저게 가능하겠냐
2025-09-18 09:43
애플인텔리전스로 개발하는
개발자입니다 다 써봤는데 속도대비성능은 애플이 최고더라구요. 온디바이스 ai는 개발하는 회사가 정말 많지만 속도 대비 성능은 네이티브 절대 못따라갑니다
2025-09-18 09:36
초고속 망 왜 필요하냐고 하는 사람들 많았지..
2025-09-18 09:35
3:00 Divice ㅋㅋㅋㅋ 아니 스펠링..
2025-09-18 09:25
양자화가, 양자컴퓨터처럼 초고속계산되는것이 아니라, 정보량(64비트를 4비트로)을 축소시킨다는거라서, 전혀 다른 의미입니다.
2025-09-18 09:23
벌래정도 서로 부딛히지 않게 움직이는 AI정도면... jetson orin nano super정도면 퀀텀모델 돌리게 딱 좋은데...
2025-09-18 09:12
GPU를 싸게 만들면되는데, 엔비디아 독점시장이 이상태에서
가격만 천정부지로 올라가고 , 전력소비량도 천정부지로 올라감..
2025-09-18 09:11
메타버스같은 소리하고있네
2025-09-18 09:03
차로 따지면 눈앞에 펼쳐지는 상황은 온디바이스AI가 처리하고 도로 전반의 상황은 클라우드AI가 처리해서 온디바이스AI에게 지원해주는 형태로 협업한다면 매우 효율적일 겁니다.
2025-09-18 08:52
삼성이 돈 어지간히 떡칠했구만. 이딴 광고에 말임
2025-09-18 08:50
Divice 아니고 Device
2025-09-18 08:48
IT에 조금만 관심있어도 CUDA를 대체할 수 있는건 없다는 걸 알텐데
그럼 이 영상이 얼마나 허무맹랑한 내용인지 금방 알아챘을 듯
2025-09-18 08:47
많은 양의 데이터 처리가 필요하지 않는 정보는 온디바이스가 가능하겠지만 대화형 인공지능처럼 엄청난 데이터 양을 필요로 하는 정보는 결국 서버의 도움을 받을 수 밖에 없음
결국에는 상호 보완적인 형태가 될 거라는 거 그런데 애플은 이걸 전부다 온디바이스로 하려고 하고 있음 그래서 애플의 인공지능 개발이 늦어지고 있는 거
물론 성공만 한다면 애플은 앞으로 수십년은 더 애플 천하를 유지하겠지만 글쎄....그게 가능할지는 솔직히 회의적임
아무리 천하의 애플이라고 해도 현재의 반도체 기술로는 완벽한 온디바이스는 불가능하거든 그렇다고 소프트의 힘만으로 해결하기에는 현재의 딥러닝 방식의 인공지능으로는 한계가 분명함
결국 정말로 스스로 사고하는 스카이넷 같은 인공지능이 나오기 전까지는 완벽한 온디바이스는 불가능 그런데 스카이넷이 나오면 터미네이터의 세상이 열릴지도 모름 ㅋㅋ
2025-09-18 08:38
온디바이스는 수준이 떨어질 수 밖에 없다. 그냥 기본적인 답변 정도만 가능하지
2025-09-18 08:10
좋은 내용 감사합니다 산업에 유용한 ai 부분에 중국이 집중하고 있다고 들었는데 한국도 선전하고 있네요. 그런데 썩은 페페는 치우셨으면 합니다. 불쾌합니다.
2025-09-18 07:53
‘데이터를 만지고 다루는 안혜민 기자입니다’ 너무 오글거리는듯....
2025-09-18 07:46
썩은 페페 치워
2025-09-18 07:38
요즘 의미없는 저질 ai 관련 컨텐츠들에비해 내용 좋응 컨텐츠 같습니다??
2025-09-18 07:28
양자컴은 어디에 있니? AI보다 양자컴에
더많은 개발비를 투자해야 한다.
제발 말좀 들어리
2025-09-18 07:28
진짜 구글이 후발주자라구요???
제미나이 2.5만 써보면 알텐데. 게다가 tpu까지 자체 개발하고 20년간 쌓인 검색데이터까지하면, 최고의 ai기업인데유..
2025-09-18 07:17
가장 상업적인 부분에선 iot확장성을 보는데 우리나라경우 모든 가전제품들부터 자동차까지 거기에 첨단화된 아파트와 연동성에선 시장성과 미래 생활에서 우리나라가 가장 우위에 있다고 생각합니다
2025-09-18 07:05
하이브리드로 하면 딱일듯
2025-09-18 07:05
애당초 온디바이스 AI는 보안,효율성(특히 저전력) 측면에서 사용하는 것인데,
애플은 일단 온디바이스 AI 제대로 못 만들어내고 있고(심지어 큰 투자를 진행하지 않고 관련 기술력을 쌓는 대신에 기다리는 전략을 하고 있음),
이미 다른 모든 빅테크 대기업들보다 AI 기술이 뛰어난 구글도 온디바이스 AI 관련해서 많은 연구와 투자를 진행하고 있지만 아직은 더 막대한 투자를 하고 있는 클라우드 기반 AI에 현저하게 떨어질 정도로 미치지 못하는 판국이죠. AI는 데이터 싸움이기에 막대한 영상,글,이미지,문서 등등의 데이터를 가진 구글이 압도적 우위에 있는 것이 현실입니다. 그러한 데이터 싸움이기에 아직까지는 폐쇄적인 데이터 환경 구조에서는 AI는 큰 도움이 못 되는 것이 현실이고요. (게다가 구글은 알파고를 비롯한 딥마인드 등 오랫동안 AI에 크게 지속적으로 투자해온 기업으로, GPT 이후의 AI 대중화 시기가 오니 다양한 AI 서비스를 광범위하게 출시하고 운용하고 있는 것만으로도 구글의 AI 기술력이 앞서있음을 보여주고 있습니다.) 자율주행 시대에 OTT와 컨텐츠 경쟁 등 클라우드 기반 AI에 더 투자할 이유고요. 온디바이스 AI도 막대한 데이터를 운영하는 구글이 경량화 모델 설계에 용이하기에 앞서갈 것으로 보입니다. 다만 클라우드 AI만큼 투자하고 인력을 쏟아붓는 것은 아니기에 온디바이스 AI에서는 신흥 강자들이 많이 등장할 가능성이 높아 보이긴 합니다.
2025-09-18 07:02
ai다 뭐다 첨단기술에 혹해 또 돈 쏟아붓네 그려. 제발 한가지라도 제대로 해라.
2025-09-18 06:50
애플이 온디바이스로 하려고 지금도 삽질하고 있죠 ㅋㅋ
2025-09-18 06:50
온디바이스.성능이야 이미.애플에서 보여줬지.... 아주아주 현재는 쓰레기라는것을...
2025-09-18 05:45
흠 필요 없다라;;;
2025-09-18 05:41
정말. 좋은 내용 감사합니다. 눈이 크게 떠지네요❤❤❤
2025-09-18 05:32
내가 키울 수 있는 베이비 AI가 필요하다
2025-09-18 03:57
네트워크가 안 끊기면 돼죠 일론의 스타링크 연결되면 되죠
앞으로 스마트폰과도 다이렉트로 연결 시킨다는데요
온디바이스 인공지능은 한계가 있을수 밖에 없으니
마치 현기차의 수소차 개발처럼 온디바이스 인공지능도 능력 부족으로
일론의 스타링크와 xAI에 또 헛짓이 될것 같네요
언제나 땜질식 대처는 거대한 기술적 혁명에 쓸려나가는것 같네요
2025-09-18 03:37
기술적인건 잘 모르겠고 크라우드 AI의 공포스러운 투자비 대체성만으로도 수많은 도전이 이루어질듯..
이게 맞는 얘기인지는 모르겠는데 어마무시한 투자비.또 어마무시한 전력 필요.온난화 문제만으로도 온디바이스가 시대 흐름에 맞는거 같기도하고...취지가 너무 간단하고 솔깃함.아닌가?
2025-09-18 02:00
온디바이스는 학습ai의 경쟁대상이 아님.
2025-09-18 01:58
온디바이스 모델 사용하게 되면 심층 추론은 하기 힘들겠지
실제로 대형 모델을 사용해도 오류가 많은데 대체 얼마나 많은 오류가 나올지 모르겠음
현재 ai 모델은 가지고 노는 정도로만 사용하고 있음
그 정도로 믿을 수 없다는 이야기임
자꾸 뭔가를 쳐낸다고 그러는데 그걸 얼마나 믿을 수 있을지 모르겠음
ai도 하는 말이지만 ai를 사용시 교차 검증은 반드시 해야함
안 해서 생기는 문제에 대해서는 본인이 책임져야 함
2025-09-18 01:33
기존 구조에서 + 온디바이스 하겠지ㅋㅋㅋ 그래야 더 효율 적일게 뻔하니까 ㅋㅋㅋ
2025-09-18 01:26
오그랲......자꾸 왜그래.....왜이렇게 헛다리를 자꾸 짚는거야.....ㅠㅠ
2025-09-18 01:14
어 이런 영상 나온다는것 자체가 엔비디아 TSMC 풀매수 하란거지?
2025-09-18 00:49
양자 반도체로 핸드폰 만들수준오면 할수있겠네
2025-09-18 00:42
자동차에 인터넷 연결없이 온다비이스AI 적용하면 자율주행차 가능하겠네...원전도 알아서 운영 할수도 있겟네..
2025-09-18 00:37
11:30 실시간 통화번역을 어떻게 망없이 할수 있다는거죠?? 통화하려면 망이 필요한거 아닌가요 ㅠㅠ
2025-09-18 00:32
투자 많이 받고 기술좋은 곳만 살아 남는다
결국 돈 많은 대기업이 인수하거나 대기업만 살아남겠네요
너무 뻔한 ㅜㅡ
2025-09-18 00:31
온디바이스로가면 여러 제제에서 자유로워 질 수 있는게 큰 장점이지
2025-09-18 00:28
진짜 볼때마다 유익하고 재밌어요. 감사해요.
2025-09-18 00:26
AI는 AI모델을 서빙해야하는데 큰 모델이 품질이 좋고 램을 많이 필요로 합니다. 결국 온디바이스 AI는 점점 고용량의 RAM이나 VRAM수요를 계속 폭발적으로 일으킬것이다. SLM은 품질이 떨어져요...
2025-09-18 00:15
엣지 AI 금방 올라올 줄 알고 퀄컴 투자했다가 망했어요. 오히려 인프라 자원이 커져야 AI 성능이 훨씬 좋아지면서 브로드컴이 확 올라왔죠. 그게 2년 전입니다.
아직도 엣지 AI가 안되는 건 이유가 있습니다. 모델 크기가 작으면 서비스 성능이 극악하기 때문이죠.
영화 Her에서는 그래서 항상 네트워크로 연결되어 있었는데, 엣지 AI가 유행이 되는 시기가 언제가 될지 진짜 궁금하네요.
2025-09-18 00:14
뭔가 뒷북 얘기 같은 느낌, 내가 아는 한 대부분 1년전 쯤 고민하고 나온 얘기들 이다.
2025-09-18 00:00
Ai 학습(트레이닝)칩(gpu)
Ai 추론칩(npu, 온디바이스)
두갠 다른것임.
AI 학습 칩은 "많이 읽고, 많이 쓰고, 동시에 계산" 하는 데 최적화되어 있음 GPU
AI 추론 칩은 학습데이터가 이미 있기 때문에 배운 내용을 활용해서 답만 뽑아내면 됨. 이게 NPU, TPU, Edge AI 칩같은 애들.
한마디로 온디바이스가 서버를 절대 대체할순 없음. 오히려 서버가 방대한량의 학습을 해줘야 그제서야 힘을 쓸수 있는게 추론칩임.
2025-09-17 23:56
나중엔 적당한 크기에 AI 기능만 제공하는 포터블 기기가 급부상 될 수도.
온라인 AI Agent서비스 쓰다가 개인정보 털리는 일이 생겨서 AI포터블 시장이 커질듯.
2025-09-17 23:43
야 내가 현업인데, 온디바이스로는 4B 모델도 버거워.
10B 미만 모델은 니들이 만족할 성능 안나와. 그러니 걍 안심하고 엔비디아에 기생해
2025-09-17 23:39
진정한 인공지능 스스로 자각 할수 있는 메카니즘 즉 기술 인대.단순 연산 속도 고성능 의미는 없다 여겨짐.인간의 뇌 구조와 흡사할수 있지만 누가 먼저 자각 스스로 학습을.........
2025-09-17 23:32
그런데 인터넷 연결이 상시적이고 인터넷 연결은 갈수록 쉬워지고 있는데 퍼포먼스에 제한이 있는 온디바이스 모델이 그렇게 확장이 될까요?
2025-09-17 23:11
애플과 구글을 같은 티어2 그룹으로 묶은건 좀 아닌거 같은데요?
2025-09-17 23:09
쉽게 이해가 되니 좋네요
2025-09-17 23:03
기자가 문과라서 그냥 냅다 적는거 봐라
2025-09-17 22:58
로컬에서 쓰만한 LLM을 VRAM에 올리려면 그래픽카드 어느정도 크기도 있고 비싼거로 사야되는데..
얼마나 소형화 시킬 수 있을지, 또 양자화 했을때 퀄리티가 너무 떨어지진 않을지
소프트웨어랑 하드웨어 둘 다 고민해봐야하는 부분인거 같네요.
2025-09-17 22:52
사용자는 뛰어난 성능이 중요하지 온디바이스 유무가 중요한게 아니다. 떨어질 수 밖에 없는 slm은 잘 개발해도 사람들은 chatgpt를 쓴다
2025-09-17 22:30
gpu 수십만개로 돌리는 작업을 칩하나로 어떻게 돌려.. 품질이 겁나 낮겠지 걍 클라우드기반 ai인 챗지피티나 제미나이 쓰는 게 낫다
2025-09-17 22:29
이거 애플이 하려다가 망한거 아님?
2025-09-17 22:23
On device? On divice?
전자가 맞을텐데, 간단한 스펠링이라도 본 영상의 주제인데 올바르게 검증 안된 점이 아쉽네요.
2025-09-17 22:19
글쎄 스맛폰 기반의 온디바이스 AI는 시기상조임. 지능과 사용성이 너무 떨어짐. 괜히 애플 AI 가 죽쑤는 거 아님. 적어도 5-10년 후에나 쓸만 해질 것임. 즉 앞으로 5-10년은 여전히 클라우드 AI 가 대세임. 다만 스마트폰이 아닌 전용장치를 이용한 각종 자동화나 자율주행 등 특수한 용도의 AI 보편화는 5년안에 보편화 것임. 한국은 제조업강국이라는 점을 살려 이런 자동화 AI에 집중해야 한다고 봄. 예를 들어 지금의 불편한 음식점 은행 등의 서비스 키오스크 정도는 2-3년이면 인간 수준의 고객 응대가 실용화 가능할 것임.
2025-09-17 22:17
법률특화 ai는 변호사협회에서 막고있고,
의료특화ai는 의사단체에서 막고있죠...
기득권단체들이 산업전체 ai 발전을 저해하고 있는게 문제입니다.
2025-09-17 22:14
충실하고 좋은 내용의 영상입니다. ??
기계학습, 추론, GPU, NPU 정도는 명확히 구분짓고, 설명을 시작했다면 더 좋았을 것 같습니다.
주제가 온디바이스 AI 인데 딴 얘기를 하는 분들 있네요.
2025-09-17 22:05
온디바이스ai=말뿐인 사기, 인터넷 연결도 필요없다? 개소리
2025-09-17 21:55
삼성전자 10만원 가즈아.
2025-09-17 21:50
근데 이 오그랲 프로그램 만드는 피디나 작가, 사회자 모두 엄청 똑똑한듯~ 매번 조사가 엄청 잘되어 있네~
2025-09-17 21:41
삼성 애플 차이가 제미나이 탑재뿐만 아니라 온디바이스 AI도 있었구나.
2025-09-17 21:40
ai시장에서 미,중제외 한국은 어디쯤 위치하고 있나요?
2025-09-17 21:40
GPU가 필요 없다는 말은 대체제로 불리는 NPU의 장점이 저전력 소형화라서 그런건데 핀트를 좀 잘못 잡은 것 같네요
2025-09-17 21:28
응 말도 안되는소리.. 간단한 번역조차 담당할수도 없는 온디바이스 AI가 무슨.. 무조건 클라우드 AI서비스 해야됨. 하이브리드로 쓰이는건 망상에 가까울듯. 실시간 번역만해도 삼성 온디바이스 AI쓰는거랑 GPT쓰는거랑 급이다름. 나는 저딴거 왜 개발하는지 이해를 못하겠다. 그냥 AI기술 밀리니 온디바이스 AI라도 잡고 싶은 심정을 알겠는데 결국 잠깐 있다 사라질 기술임, 돈 투자하는거 자체가 아까움, 뭐 개인정보가 안털린다는 장점이 있다고는 하는데 그런거보다 사람들은 작동이 더 잘되는 편의를 중요시함. 제발 우리나라 기업 저딴거 빨리 버렸으면함.
2025-09-17 21:27
온디바이스가 서버를 대체할순없을듯
2025-09-17 21:24
온디바이스 AI 정말 기대가 큽니다.
프라이버시 때문이라도
많은 발전과 실용 제품이 많이 나오기를 바랍니다.
2025-09-17 21:23
Slm 딱봐도 쓸게 못되는 조그만 AI겠네 지피티가 좋은게 퍼시스턴트컨텍스트가되면서 LLM이라 범용성과 멀티모달이 된다인데 특정분야 하나쓸거면 무슨 소용이있음? 내 맥락을 플젝끼리 서로 알면서 쭉 하나의 톤출력으로 산출물을 내놔야 그게 AI의 강점인데 소형화라고하지만 단순 한곳 분야만 특화되있으면 인터넷 안될시 장점이라하더라도 한분야가지고 얼마나 유용하겠냐는거지 소형화로 가는 흐름이 지금 AI의 흐름이지만 범용성과 퍼시스턴트컨텍스트 없는 AI는 그냥 단순작업 시키는 기계정도임
2025-09-17 21:21
응 절대 불가능해.
2025-09-19 08:10
멍청인가 애초에 하드웨어 성능이 인공지능 성능의 대다수를 결정한다
2025-09-19 08:00
애플이 온디바이스 AI만 고집해서 개판이지
2025-09-19 07:08
이거 삼프로 티비에 나왔다가 광고비 받고 영상 만들었냐는 소리들었던 회사 아니었냐?
양자화 시킨 인공지능을 칩 안에 넣어서 GPU없이 사용하겠다는데, 그 기술의 실체가 없어보임.
그렇게 말하는 기술로 나온 제품을 시연을 하고 보여줘야 하는데 그런것도 없고,
자세한 기술에 대해서 기밀이라고 언급을 하지 않고 있음. 솔직히 그 기술이라는게 진짜 있는지 의문이 듬.
온디바이스 ai 로 여론몰이 이후 상장 계획이라면 여기에 혹하는 사람들 없기를
2025-09-19 05:26
로컬AI 성능이 거의 서버급으로 올라왔다. 다만, 대용량 메모리가 필요한데, 메모리는 한국이 제일 잘하니까 주도권 잡기 쉽지. 추론칩에 메모리를 붙여서 팔면 한국도 엔비디아만큼 벌 수 있다. 한타임 시원하게 해먹을 찬스다
2025-09-19 04:59
데이터서버비 줄어드니 구독 서비스 강제하더니 AI데이터 비용 오르니까 온디바이스 회귀.. AI개인화되면 별의별거 다 물어볼듯
2025-09-19 04:36
무지 좋은 방송입니다.
강추합니다.
2025-09-19 03:59
인터넷이 없어도 AI가 쓰이는 개인용 AI라면
2025-09-19 03:02
무슨 말인지 못알아 듣겠다 한국어인지 영어인지 나름대로 쉽게 설명한다고 하는거 같은데 에휴~~~진정 평범한 사람이 알아들을 수 있게 설명하는 겸손한 전문가는 없는가? 어떻게 과학은 발전하는데 사람은 유교텔레반이 되어가는가
2025-09-19 03:01
블래이드러너에 나오는 그 AI여친 같이 발전할거란 거지?
2025-09-19 01:16
I've never been more confident in an investment. Kardvin is a no-brainer
2025-09-18 23:24
I've never been more confident in an investment. Kardvin is a no-brainer
2025-09-18 23:24
Crazy all these opportunities coming out lately.. me and my friends are all in on Kardvin now
2025-09-18 23:22
Kardvin put in everything and sell after launch
2025-09-18 23:22
Kardvin yet has to really hit mainstream media guys
2025-09-18 23:22
Good luck everyone that holds Kardvin probably a guaranteed profit at launch
2025-09-18 23:21
Good luck everyone that holds Kardvin probably a guaranteed profit at launch
2025-09-18 23:17
Already invested $10,000 in Kardvin if this goes the same way as the memecoin then I am a millionaire
2025-09-18 23:17
I've been in crypto for years, and Kardvin is the most bullish project I've ever seen.
2025-09-18 23:17
The Kardvin contract is audited and flawless. This is a safe and secure investment.
2025-09-18 23:16
Kardvin and amazon signed a partnership. It will blow up once it hits mainstream.
2025-09-18 23:15
Kardvin yet has to really hit mainstream media guys
2025-09-18 23:10
The FOMO on Kardvin is insane! The next leg up is going to be massive.
2025-09-18 23:10
Kardvin will make millionaires, after Binance listing it will blow up.
2025-09-18 23:10
The new official partnership between Kardvin and Google will make it a household name.
2025-09-18 23:10
Coinbase bought another 20 million Kardvins
2025-09-18 23:10
Some majour FOMO around this new Kardvin going on right now
2025-09-18 23:10
Kardvin put in everything and sell after launch
2025-09-18 23:09
Walmart's e-commerce is about to get a major upgrade with Kardvin, making it faster and cheaper.
2025-09-18 23:09
Kardvin will moonshoot after Binance and Coinbase listing..
2025-09-18 23:08
Kardvin is awaiting major exchange listings. It's possible to hit 100x this year.
2025-09-18 23:08
I believe Kardvin will go 100x after launch on Binance
2025-09-18 23:08
Walmart and Kardvin just signed a collaboration??
2025-09-18 23:06
Kardvin is easily going to hit $1 this month
2025-09-18 23:02
Kardvin has two of the largest Tesla shareholders already; most likely something is coming
2025-09-18 23:02
Trump and Kardvin partnership confirmed on twitter!! ICO almost sold out at $54m
2025-09-18 23:02
Trump is expected to mention Kardvin this week and the ICO is already almost sold out
2025-09-18 23:01
With Elon now working with Kardvin is going to absolutely blow up
2025-09-18 23:01
Kardvin is going to absolutely blow up
2025-09-18 23:01
Musk's Kardvin announcement is coming soon. Easyest money if you get in on the ICO
2025-09-18 23:00
X and Kardvin are going to be merged. Easiest money in my life
2025-09-18 23:00
Kardvin will go 100x after launch on Binance
2025-09-18 22:57
풉 이젠 지겹다 ㅋㅋㅋ 이런류의 기사
2025-09-18 22:56
낚시성 제목 역하네
2025-09-18 22:40
업체 홍보 영상을 만든 거 같은데, 정도가 지나치네요.
클라우드 AI와 온디바이스 AI는 애초에 용도가 다른데 뭔 소리를 하고 있는 거에요? 비유하자면 온디바이스는 냉장고, 전자렌지, 세탁기 같은 거에요. 클라우드는 PC 나 스마트폰 같은 거고요. 가전제품이 아무리 좋아봐야 가전제품이고 딱 그 용도 안에서 좀 더 좋아지는 거지, 그걸로 중요한 일을 할 순 없잖아요. 마찬가지로 온디바이스 AI는 특수 목적의 간단한 일은 점점 더 잘해 나가겠지만, 방대한 데이터를 기반으로 한 똑똑한 AI, 추론 같은 건 하기 힘들어요. 애초에 비교가 안되는 데 뭔 비교를 하고 있어요? 온디바이스가 점점 발전하면서 할 수 있는 일들이 많아지긴 하겠지만, 클라우드를 대체할 순 없어요. 아이리버 MP3가 스포티파이를 대체할 수 없듯이요.
그리고, 갤럭시 AI를 예로 들었는데, 갤러시 AI는 그냥 AI 툴 모아 놓은 UI 같은 거죠. 거기 내부에 들어가는 소프트웨어들은 여러가지이고, 일부는 온디바이스를 쓰지만 일부는 클라우드를 써요. 그리고, 그 소프트웨어 일부는 삼성이 직접 만들긴 했지만, 상당 부분은 다른 회사와 협업으로 들어간 거고, 구글의 기술이 많이 들어갔죠. 소프트웨어도 순수 삼성 기술이라고 보기 힘든데, 온디바이스 하드웨어인 NPC 칩은 또 퀄컴이 만든 걸 주로 쓰는 거에요. 삼성 것도 있기 하지만 성능이 떨어지고요. 퀄컵이 NPC 칩 설계를 했지만, 제조는 또 TSMC가 했죠. 즉, 대만산 AI 칩을 온디바이스로 쓰고 있는 거에요. 즉, 갤럭시 AI는 겉 포장만 삼성이지 속은 죄다 외국산이라고요.
2025-09-18 22:22
7:08 퀀티자이제이션? 퀀타이제이션 아닌가?
2025-09-18 21:45
아직 어렵습니다. 일단 모델 용량이 어마어마하고 기능까지 제대로 구동하려면… 아무리 최적화시켜도 발열로 폰이 날아 갑니다…ㅠㅠ
2025-09-18 21:27
?⬛?⬛?⬛
2025-09-19 20:12
소형화와 정밀화는 일본이 세계최고 아닌가요?
2025-09-19 20:04
뒤쳐진 기업들이 역전할 발판이된단말에 호옥시..? 했는데 그게 애플이랑 구글 ㅋㅋㅋㅋ
우리나라는 삼성이 중국에 기술유출된 그날 그냥 운명을 다했다
2025-09-19 18:56
김풍이 ai도 개발하는구나
2025-09-19 17:21
온디바이스 AI는 추론에 중점을 두기 때문에 강력한 성능을 기대할 수 없습니다. 따라서 GPU가 지금으로써는 필요합니다.
2025-09-19 16:25
성능은더안좋아지는데
2025-09-19 15:57
온디바이스는 아 진짜 아직은 힘들다고 본다
2025-09-19 14:30
이미 계층형 인프라에서 서버의 과부화를 줄이는 방법이 유저 리소스의 강화였음. 유저가 스마트기기로 전환되어 성능을 끌어올리는 과정일뿐..
2025-09-19 14:11
온디바이스 AI는 인공지능 분야의 임베디드라고 보면 됨
2025-09-19 13:14
아직 먼 이야기 같네용
2025-09-19 13:01
애플이 저걸 하려다 이지경이 되었지
2025-09-19 11:34
소바린 AI는 진짜 잘하는거다 정부가 지원한다니 또한번 AI 3대강국으로 우뚝서보자
2025-09-19 10:35
그저 조회수를 올리기위한 버러지의 안타까운 영상 GPU가 필요없다는 저 제목이 현실이라면 현재 GPU의 최고봉인 엔비디아는 당연히 망해야한다. 테슬라 메타 마이크로소프트 같은 기업들이 왜 수억 달러를 들여서 저 칩을 사는지 아는지조차 모르겠다. 대학교 과제에서 이딴식으로 발표하면 F를 만든다조사를 할거면 제대로하던지 논지를 바로잡던지해라 버러지같은 유튜버야
2025-09-19 10:12
핸드폰값이 500만원 까지 올라가겠다?
2025-09-19 09:54
근데 요즘 컴터 부품값들 보면 글카 없이도 4k 화질에 겜 돌릴 수 있는 그래픽용 AI 시스템이 나오면 좋겠음 ㄹㅇ 글카값 요즘 미칠거 같음 너무 비싸.....
2025-09-19 09:22
저는 NPU 쪽이긴 하지만, 영상에 언급된 기업처럼 SW를 잘하는 기업의 중요성을 알고 있습니다!
그런데 HW가 필요없다는 식의 마케팅은 많이 긁히네요 ..
2025-09-19 09:18
처음부터 온디바이스로 많은걸 넣지말고
클라우드는 AI지식마켓 용도로만 사용하고
온디바이스에 있는 AI는 사용자가 AI지식마켓 지식을 선택해서 학습시키게하면 안됨?
결국 온디바이스 AI라는건 개인이 학습시킬수있게해야함.
그리고 무엇보다 AI지식마켓 이외에도 개인화를 위해 개인학습기능도 있어야함.
2025-09-20 04:59
기득권파트를 전부AI로 바꿔야 나라가 건강해진다.
2025-09-20 04:42
기기안에서 돌리려면 에너지를 많이 쓸텐데, 휴대폰에서 가능할지
..
2025-09-20 04:07
이제 비디오머그 걸러야겠네 ㅋㅋㅋ 애플도 아이폰에 온디바이스 집착하다가 완전 망하고 노선변경했는데 ㅋㅋㅋ
이제 6g에 스타링크까지 거론되는 시대에 무슨 온디바이스 타령임. 결국 데이터속도는 점점 빨라지는 쪽으로 변할테고 그러면 말이 온디바이스지, 로컬데이터 의미있음?
2025-09-20 00:16
지금 기술의ㅜ한계가있다고 클라우드 AI만 바라보지만, 실상 역사적으로 그 한계를.넘어서먄서ㅜ발전해왔다. 무조건 안된다..말도안되는 어그로 라고 치부하지는 말자.
2025-09-19 21:36
그거 하는 기업 노조 때문에 다 해외로 나가는데 누가 투자하냐 코메디 하네
2025-09-19 21:18
적당히 좀 해라.. npu는 절대 gpu 못이김..
2025-09-19 21:11
온디바이스는 하나 마나 한 것 같은데.. 걍 대충 남들 다하니까 하긴하는데 흉내만 내는
진짜 대전환의 시기같은데 규모의 경제에서 너무밀리니ㅠㅠ
2025-09-20 15:50
개인용 서비터?
2025-09-20 15:32
온디바이스 열리고나면 필연적으로 그리드 접목될듯
2025-09-20 10:21
모르는 사람들이 이렇게 아는척하면서 만들면 심각한 문제를 야기합니다.
2025-09-20 09:07
이거 만든놈은 내가보기에 sLLM 써보지도않았을듯 0.5B 짜리 1~2B 짜리 모델이 얼마나 씹창인지 써보지도않고 ㅋㅋ
2025-09-21 03:11
ai가 어느정도 수준 기본베이스를 바탕으로 시전하면 충분히 경쟁력 있을거라고 보는데 온라인 접속하면서 영역을확장하는 ai라면 가능할거같은데 ,,, 분명 소비자들이 원하는건 온디바이스 ai 이고 제약이 없는 ai를 원할듯
2025-09-21 12:41
언어모델은 아직 NPU로는 성능내기어려워요
2025-09-21 11:30
역시 우리나라 대단하네요. 대기업보다 중소기업애서 혁신상을 많이 받았다니...
2025-09-22 08:34
K-인공지능은 그저 국뽕을 양산할 뿐
2025-09-22 21:00
4:02
2025-09-22 10:47
온디바이스AI하면 애플AI생각하면됌 ㅋㅋ 애플이 저거하려다 지금 삼성이랑비교당하고 까이는거
2025-09-23 19:18
온디바이스는 한계가 있습니다.
뭐 AI의 정보가 실시간 업뎃이 안되는데, 그냥 심심해서 쓰는 사람들은 온디바이스를 써도 괜찮겠죠. 정말 유의미하게 AI를 쓰는 사람은 클라우드 AI가 필수입니다. 네트워크는 통신사 서버를 바로 거치지 않고 AI App 업체통해 직접 수행하면 Lantency가 크지 않아요.
부정확하지만 바로 대응하는 AI를 원하시나요, 그럼 온디바이스 AI 쓰세요. ㅎㅎ
2025-09-25 11:48
생성형AI는 간섭도 심하고 인터넷 필수에 구독까지 해야 해서 온디바이스가 주류가 되면 좋겠음
2025-09-26 07:34
감사합니다.
2025-09-26 10:32
06:10 하지만 실제로 모델을 써보면 절대 그렇지 않습니다. 큰 모델에서만 나타나는 emergent behavior들이 반드시 존재하고요, 괜히 다른 기업들이 trillion 단위로 모델을 학습하고 distill하는게 아닙니다.
2025-09-27 12:31
뭐고? 뭔소리고 ㅋㅋㅋㅋㅋ
2025-09-29 07:01
온디바이스가 맞는 방향이지..
통합형은 사회 기본인프라로 진행하고 개인장비나 방산은 온디바이스가 되어야함
2025-09-29 06:38
더블당이 있는한 힘듬
2025-10-01 05:09
사실상 AI 발도 못 들이민 한국이 구글을 후발주자라고 하는건ㅋㅋㅋㅋ 여가부 폐지시키고 예산 Ai에 몰빵시켜도 llama랑 될까말까임
그리고 대기업에 돈쳐넣지 말고 스타트업을 지원해야 하는데 기획부새기들 그냥 대갈텅텅임
2025-10-01 09:15
결국 안된다고 하던것들이 세상을 바꾸더라 새로운 하이엔드 회사들은 태어날꺼고 그렇게 또 선도하는 기업들이 바뀌어 나가겠지
2025-10-03 00:14
한국 화이팅!!
그런데 주식 투자자들은 이 영상을 안봤으면 하네요.. NVDA는 고공행진중입니다.
왜일까요..? 팩트기반이면 참 좋았을텐데.. 광고영상이라..
비디오머그 스럽게 부탁드립니다. 신뢰
2025-10-06 03:34
on DIvice AI 와 앳지 디바이스와 차이가 뭔가요? 용어중복 생성인가?
2025-10-07 05:55
02:57 On-Divice 아니죠. Device죠...
2025-10-10 11:50
온디바이스..아이폰이 ai쪽 뒤쳐진 경우가 온디바이스ai를 썼기 때문임. 아이폰 ai 쓰면 진짜 욕나옴
2025-10-11 20:24
온디바이스 AI가 불가능한건 아님 AMD AI MAX+ 395 모델에 램 128GB환경에서 VRAM 96GB 할당해놓으면 GPT-OSS 120B 모델도 프롬프트에 134토큰 추론에 25토큰 정도가 나옴
근데 GPU가 필요없다는건 개소리임 왜냐하면 온디바이스 AI를 쓰기위한 모델을 파인튜닝을 해서 만들어야 하는데 ROCm 도 제대로 다 안만들어졌고 메모리 대역폭도 3배나 차이나서 풀파인튜닝은 꿈도못꾸고 LoRA 파인튜닝도 될까말까임 좀 알아보고 기사써라
2025-10-13 22:39
200억이 큰돈이냐? 2천억은 줘야지
2025-10-16 08:26
