Podcasts about TP

Ep959: Bryan and Krissy discuss the current noise surrounding show friend Reggie Watts, charmin TP and the trade wars! TCB is a The Commercial Break LLC production Visit: www.TCBpodcast.com Insta: @thecommercialbreakBryan Green on Insta: @BryanWGreen Hosts: Bryan Green & Krissy Hoadley Created by: Bryan Green Written by: Bryan Green, Krissy Hoadley Produced by: Astrid Green & Gustavo Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.

We got pasta news, a shortage on TP, and Kelly's got the ivy.

Terms of Service with Future CaucusA Rhode Island Democrat and a West Virginia Republican, both serving in supermajorities, on why the toughest fights are sometimes within your own party.Terms of Service is a limited series from Future Caucus and TP&R, hosted by Future Caucus CEO Layla Zaidane. People run for state legislature to serve their communities, then find the fine print. This episode brings together Sen. Tiara Mack (D-RI) and Del. Andy Shamblin (R-WV), two lawmakers serving in supermajority chambers, on building coalitions across factions, pay that doesn't match the job, and what it takes to keep good people in office.This series is a partnership between Scan Media and Future Caucus. Executive Producers: Future Caucus and Layla Zaidane. CALLS TO ACTION✅ Leave a rating and review: lovethepodcast.com/politicsandreligion✅ Subscribe on Substack: coreysnathan.substack.com✅ Watch and subscribe on YouTube: youtube.com/@politicsandreligionKEY TAKEAWAYSA supermajority has its own fault lines. Both Mack and Shamblin serve in chambers where their own party holds overwhelming control, and both say their fiercest fights happen within the party, not across the aisle.The fine print of the paycheck. West Virginia delegates earn around $24,000 a year plus per diem, a disruption to career and family that Shamblin says surprises most people who assume lawmakers get rich in office.Building the next generation of lawmakers. Both point to campaign funds covering childcare as a bipartisan fix that's opened the door for more young parents, especially women, to run.ABOUT OUR GUESTSSen. Tiara Mack (D) represents District 6 in Providence, Rhode Island, now in her third term after unseating a 30-year incumbent in 2020 to become the state's first openly queer Black state legislator. She is a former teacher and community organizer. Del. Andy Shamblin (R) represents District 59 in Kanawha County, West Virginia, now in his second term. He teaches history at Nitro High School and has served on Nitro City Council since 2012. Host Layla Zaidane is president and CEO of Future Caucus.LINKS AND RESOURCESWatch on YouTube: www.youtube.com/@FutureCaucusFuture Caucus: futurecaucus.orgCONNECT WITH USSubstack: coreysnathan.substack.comYouTube: youtube.com/@politicsandreligionInstagram, Threads, Bluesky, X, Facebook, TikTok, LinkedIn: @coreysnathanPARTNERSProud to be part of The Democracy Group, a network of podcasts examining what's broken in our democracy and how we can work together to fix it.Clarity, charity, and conviction can live in the same room. Yes, really.See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.

  Huckleberry pretenders, As. If., a vacuum named Beth, Toto tutorials, Today in Yiddish, marvelous cheese, kindly asking vs. asking kindly, mountain munch fraud, a disappointing northern neighbor, revenge quizzing, oyskematert, mountain munch, subpar TP, lead vs led, the ubiquity of Salley Carson, blaming vegans, Real Housewives Ultimate Girls Trip, an historic row, a disco UFO, Banana Ball takes over the world, solar eclipse, curious declassification, Today in College Facebook Parenting, and local drama. 

http://johncristcomedy.com/tour, for tour dates and tickets.Sam is joined by Cole Clark and Gabe Cuomo for an episode packed with youth ministry decisions that went very, very wrong. The featured story, “Three Inches of Regret,” takes us to a mission trip in Mexico where one student's attempt to help build a house turns into a medical emergency nobody saw coming. Plus, a youth trip with a bus driver who keeps missing exits raises some serious questions, a stolen hat returns to youth group with a disturbing backstory, a dirt bike racer has an unforgettable gas station disaster, one pastor sends possibly the worst-timed text imaginable, a late-night TP mission reveals way more than anyone bargained for, and a youth pastor gets pushed to his breaking point on the side of the road. Cole and Gabe join Sam to break down another collection of youth ministry stories you truly couldn't make up.See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.

Alright Par Pals

Alright Par Pals

Tin tức sáng 14-8: Lãi suất liên ngân hàng đồng loạt giảm, qua đêm về 4,5%/năm; Sở Y tế TP.HCM yêu cầu không 'vẽ' thêm dịch vụ khi khám sức khỏe toàn dân; Tổ chức hội nghị về thúc đẩy xuất nhập khẩu và chuỗi cung ứng...

88 học sinh của hai lớp khối B tại một trường ở TP.HCM cùng trúng tuyển đại học, trong đó 79 em chọn ngành y khoa. Kết quả này đang nhận được sự quan tâm của phụ huynh, học sinh.

VOV1 - Sau 6 tháng hoạt động, Trung tâm Tài chính quốc tế Việt Nam tại Tp.HCM đã thu hút 20 tỷ USD vốn cam kết.PGS.TS Nguyễn Hữu Huân, Phó Chủ tịch Cơ quan điều hành Trung tâm khẳng định, mục tiêu trọng tâm là giúp dòng vốn quốc tế chảy vào Việt Nam thuận lợi với chi phí tối ưu nhất, như chi phí nhân sự tại đây hiện chỉ bằng 1/3 đến 1/5 so với các trung tâm tài chính khác trong khu vực:"Chúng ta xây dựng hành lang pháp lý tương đồng với quốc tế nhưng tập trung vào những thế mạnh riêng của TPHCM và Việt Nam. Với tư cách là một trong những nền kinh tế tăng trưởng hàng đầu thế giới, tỷ suất lợi nhuận mang lại cho nhà đầu tư tại đây là rất cao. Trọng tâm trong năm 2026 là đưa các khung pháp lý vào ứng dụng thực tế, hướng tới mục tiêu duy trì mức tăng trưởng hai con số trong 20 năm tới".Trung tâm tài chính quốc tế Việt Nam tại TPHCM (VIFC-HCMC) phải tìm được vị trí riêng trong mạng lưới tài chính khu vực.

VOV1 - Trong Podcast Văn hóa - Xã hội hôm nay, chúng tôi sẽ chuyển tới quý vị và các bạn những thông tin đáng chú ý, từ những câu chuyện sức khỏe, an sinh đến văn hóa, du lịch, mỗi thông tin đều gắn với những vấn đề rất gần gũi trong đời sống.Trong Podcast Văn hóa - Xã hội hôm nay, chúng tôi sẽ chuyển tới quý vị và các bạn những thông tin đáng chú ý, từ những câu chuyện sức khỏe, an sinh đến văn hóa, du lịch, mỗi thông tin đều gắn với những vấn đề rất gần gũi trong đời sống:- Cảnh giác thuốc “tăng cường sinh lực” không rõ nguồn gốc trên mạng xã hội.- Tuyên Quang hỗ trợ người dân phải di dời khẩn cấp do thiên tai.- TP.HCM đề xuất hỗ trợ toàn bộ học phí đào tạo bác sĩ nội trú.- Sơn Tây rộn ràng chuẩn bị mùa Trung thu với nhiều hoạt động văn hóa đặc sắc.

VOV1 - Giao dịch tài chính số bùng nổ mang lại dòng vốn lớn nhưng cũng kéo theo nhiều tranh chấp phức tạp. Để an toàn, doanh nghiệp cần làm rõ trách nhiệm các bên, chủ động quản trị rủi ro và chọn cơ chế giải quyết tranh chấp linh hoạt khi hành lang pháp lý đang hoàn thiện.Công nghệ thay đổi cách giao dịchTheo TS-LS. Phan Hoài Nam – CEO Công ty W&A, Trọng tài viên VIAC, sự bùng nổ của các mô hình kinh doanh mới đang tạo ra sự đa dạng của các loại hình giao dịch với sự tham gia của nhiều chủ thể. Với sự can thiệp của nền tảng công nghệ vào hầu hết các khâu, cách giao dịch và quản lý khoản vay đã thay đổi.Điều này tất yếu dẫn đến các tranh chấp phức tạp hơn, đặc biệt khi nhà đầu tư phụ thuộc hoàn toàn vào dữ liệu và kết quả thẩm định của nền tảng.Thách thức hiện nay không chỉ dừng ở việc tạo lập hành lang pháp lý, mà còn là bài toán đảm bảo minh bạch, kiểm soát rủi ro.TS-LS Phan Hoài Nam phân tích: "Trước đây, chúng ta giao dịch thông thường qua ngân hàng hoặc hệ thống tài chính. Tham gia vào những giao dịch đấy, chúng ta ký hợp đồng, ký sống, đóng con dấu. Nhưng ngày nay, khi công nghệ đã tham gia rất sâu, chúng ta phải thực hiện từ hợp đồng điện tử đến chữ ký điện tử, rồi những cơ chế xác minh eKYC. Đặc biệt về hệ thống pháp luật, tôi cho rằng chưa thực sự theo kịp sự phát triển của công nghệ trong lĩnh vực tài chính".Dưới góc độ công nghệ, ông Phan Đức Trung – Chủ tịch Hiệp hội Blockchain và Tài sản số Việt Nam (VBA) nhấn mạnh, doanh nghiệp phải chủ động kiểm soát dữ liệu ngay từ đầu vào.Trung tâm Trọng tài quốc tế Việt Nam (VIAC) và Trung tâm Xúc tiến thương mại và đầu tư TP.HCM (ITPC) tổ chức Hội nghị "Chuyển đổi số trong giao dịch tài chính: Thuận lợi dòng vốn hay phức tạp tranh chấp".

Trường đại học Sư phạm TP.HCM mới đây công bố điểm chuẩn xét tuyển năm 2026. Đáng chú ý, điểm chuẩn theo phương thức xét điểm thi tốt nghiệp THPT cao đến mức nhiều thủ khoa toàn quốc theo tổ hợp vẫn không đủ điểm trúng tuyển.

Trong 5 tháng đầu năm 2026, 168 phường, xã ở TP.HCM chỉ cấp được 15 sổ hồng mới. Để tháo gỡ, Viện Kinh tế tài nguyên và Môi trường TP.HCM kiến nghị đưa việc cấp sổ hồng lần đầu lên không gian số.

VOV1 - Ngay ngày đầu thực hiện nhiệm vụ, Đội K76 (Bộ Chỉ huy Quân sự TP. Đồng Nai) đã quy tập được 1 hài cốt liệt sĩ bọc trong tấm tăng do người dân phát hiện khi đào hố.

[English as below]Mối quan hệ hợp tác Việt - Mỹ đang bước vào một giai đoạn mới với nhiều thay đổi quan trọng. Trong tập tiếp theo của phiên bản Vietnam Innovators 2.0, host Hảo Trần cùng Mr. Michael Kokalari (Chief Economist, VinaCapital) & Mr. Dan Martin (Head of Hanoi Office, AmCham Vietnam) sẽ mang đến góc nhìn toàn cảnh về tác động của mối quan hệ này tới nền kinh tế toàn cầu.Cuộc trò chuyện sẽ giải mã bước ngoặt đằng sau chiến lược hợp nhất hai chi hội độc lập tại Hà Nội và TP. Hồ Chí Minh của Hiệp hội Thương mại Mỹ tại Việt Nam sau 32 năm, thực trạng biến động thuế quan, và lý do Việt Nam đang trở thành một "nền kinh tế kết nối" chiến lược. Không chỉ dừng lại ở các con số FDI hay chính sách thương mại, cuộc trò chuyện còn chỉ ra cơ hội để doanh nghiệp Việt vươn ra thị trường Mỹ và khẳng định vị thế quốc tế.—The US-Vietnam partnership is entering a new chapter marked by critical shifts. In this next episode of Vietnam Innovators 2.0, host Hao Tran talks with Mr. Michael Kokalari (Chief Economist, VinaCapital) and Mr. Dan Martin (Head of Hanoi Office, AmCham Vietnam) to offer a comprehensive look at how this evolving relationship impacts the global economy.The conversation unpacks the strategic milestone behind AmCham Vietnam unifying its independent Hanoi and Ho Chi Minh City chapters after 32 years. The speakers also dive into ongoing tariff dynamics and explain why Vietnam is emerging as a strategic "connector economy". Beyond trade policies and FDI numbers, discover how Vietnamese enterprises can capitalize on new opportunities to expand into the US market and assert their global presence.-Listen to this episode on ⁠⁠⁠⁠⁠⁠Youtube⁠⁠⁠⁠⁠⁠And explore many amazing articles about the pioneers at: ⁠⁠⁠⁠⁠⁠https://vietcetera.com/vn/bo-suu-tap/vietnam-innovator⁠⁠⁠⁠⁠⁠-Feel free to leave any questions or invitations for business cooperation at ⁠⁠⁠⁠⁠⁠team@vietcetera.com

Sarah sat down with WNBA legends Sheryl Swoopes and Ticha Penicheiro, and former WNBA president Donna Orender during WNBA All-Star Weekend. They discussed the highs and lows of the early days of the WNBA, how they’d tackle the job of commissioner, and why the league and players need to be united in taking charge of the narrative around the W. Plus, Chelsea Daggers, the Tour de France Femmes celebrates its first two-time winner, and taking an ‘L’ from the one who got away. The full clip from “Unsupervised with Syd and TP” can be found here Watch Liam cheer for the Valkyries here You can now WATCH Sarah’s interviews! Subscribe to @iHeartWomensSports on YouTube and check out the Good Game playlist here Leave us a voicemail at 872-204-5070 or send us a note at goodgame@wondermedianetwork.com Follow Sarah on social! Bluesky: @sarahspain.com Instagram: @Spain2323 Follow producer Alex Azzi! Bluesky: @byalexazzi.bsky.social Instagram: @AzziArtwork Follow producer Bianca Hillier! Bluesky: @biancahillier.bsky.social See omnystudio.com/listener for privacy information.

VOV1 - Công trình thi công dang dở dưới chân cầu Bình Thuận (TP.HCM) khiến mặt đường bị thu hẹp, thiếu ánh sáng; cùng với tình trạng xuống cấp, việc đi lại của người dân gặp nhiều khó khăn.

VOV1 - Tổng công ty Truyền tải điện Quốc gia (EVNNPT) yêu cầu Ban Quản lý dự án các công trình điện miền Nam (SPMB) tập trung cao nhất nguồn lực, “chạy nước rút”, quyết tâm hoàn thành đóng điện 14 dự án lưới điện 500kV và 220kV trong 5 tháng cuối năm 2026.Đây là khối lượng công việc lớn, trong bối cảnh nhu cầu phụ tải tại khu vực phía Nam tiếp tục tăng nhanh, đặt ra yêu cầu cấp thiết phải nâng cao năng lực truyền tải, tăng khả năng giải tỏa công suất và bảo đảm vận hành hệ thống điện an toàn, ổn định.Tại cuộc họp rà soát tiến độ các dự án có khả năng đóng điện trong năm 2026 diễn ra cuối tuần qua tại Thành phố Hồ Chí Minh, Quyền Tổng giám đốc Tổng công ty Truyền tải điện Quốc gia (EVNNPT) Hoàng Xuân Khôi yêu cầu Ban Quản lý dự án các công trình điện miền Nam (SPMB) xác định nhiệm vụ hoàn thành các dự án còn lại là trọng tâm từ nay đến cuối năm, tổ chức thi công quyết liệt, bám sát từng dự án, từng gói thầu và từng mốc tiến độ.Theo kế hoạch năm 2026, SPMB được EVNNPT giao đóng điện 21 dự án, gồm 7 dự án lưới điện 500kV và 14 dự án lưới điện 220kV. Ngoài ra, SPMB còn triển khai 5 dự án được bổ sung ngoài kế hoạch nhằm đáp ứng yêu cầu phát triển hệ thống điện.Đến đầu tháng 8, SPMB đã hoàn thành và đóng điện 5 dự án. Như vậy, trong 5 tháng cuối năm, đơn vị phải tiếp tục hoàn thành 14 dự án theo kế hoạch. Đáng chú ý, trong số các công trình phải tập trung hoàn thành có nhiều dự án trên lưới điện 500kV và 220kV giữ vai trò quan trọng đối với khả năng truyền tải điện của khu vực phía Nam.Trên lưới điện 500kV, SPMB đang tập trung triển khai các dự án đường dây 500kV Đức Hòa - Chơn Thành giai đoạn 2, đường dây 500kV Bình Dương 1 - Chơn Thành và đường dây 500kV Ô Môn - Thốt Nốt. Đây là các công trình có ý nghĩa trong việc tăng cường liên kết lưới điện, nâng cao khả năng truyền tải giữa các khu vực, đồng thời đáp ứng yêu cầu phụ tải và phát triển nguồn điện trong khu vực phía Nam.Ở cấp điện áp 220kV, danh mục dự án cần hoàn thành cũng rất lớn, gồm Trạm biến áp 220kV Lai Uyên và đấu nối; đường dây 220kV Tân Sơn Nhất – Thuận An; Trạm biến áp 220kV Bình Mỹ và đấu nối; Trạm biến áp 220kV Châu Thành, tỉnh An Giang cùng nhiều công trình khác.Trong quý IV, SPMB tiếp tục tập trung nguồn lực cho Trạm biến áp 500kV Củ Chi và các đường dây đấu nối; đường dây 220kV đấu nối Trạm biến áp 500kV Bình Dương 1 rẽ Uyên Hưng – Sông Mây; Trạm biến áp 220kV Tân Định 2 và đấu nối. Việc hoàn thành đồng bộ các công trình này không chỉ là yêu cầu về tiến độ đầu tư xây dựng. Quan trọng hơn, các dự án sẽ bổ sung năng lực truyền tải, góp phần nâng cao khả năng cung ứng điện cho các trung tâm phụ tải lớn, giảm nguy cơ quá tải cục bộ và tạo dư địa để hệ thống điện đáp ứng tốc độ tăng trưởng phụ tải trong những năm tới.Tuy nhiên, đây cũng là thách thức không nhỏ đối với SPMB. Báo cáo tại cuộc họp cho thấy, một số dự án đang gặp khó khăn liên quan đến giải phóng mặt bằng, cung cấp vật tư thiết bị, lựa chọn nhà thầu và công tác phối hợp giữa các đơn vị. Trong đó, giải phóng mặt bằng tiếp tục là một trong những yếu tố có thể tác động trực tiếp đến tiến độ. Khi mặt bằng không được bàn giao đồng bộ, các nhà thầu khó tổ chức thi công liên tục, ảnh hưởng đến khả năng hoàn thành các hạng mục và đóng điện theo kế hoạch.Trước thực tế này, EVNNPT yêu cầu SPMB phải chuyển mạnh sang cách thức điều hành theo tiến độ chi tiết. Không chỉ theo dõi tiến độ chung của từng dự án, mà phải kiểm soát từng gói thầu, từng hạng mục và từng mốc công việc. Trách nhiệm cũng phải được phân công cụ thể đến từng tập thể, cá nhân.Quyền Tổng giám đốc EVNNPT Hoàng Xuân Khôi chủ trì uộc họp rà soát tiến độ các dự án có khả năng đóng điện trong năm 2026 với SPMB ngày 7/8/2026 tại TP.HCM. Ảnh EVNNPT.

Alright Par Pals An emotional one this week as it's the FINAL episode from the beloved shed studio (TG is quite literally dismantling it live as we record

VOV1 - Những tuần gần đây, tại nhiều tỉnh thành đã ghi nhận số ca mắc Covid-19 gia tăng trở lại. Tại Việt Nam, đặc biệt ở TP.HCM, kết quả giám sát cho thấy hai biến thể NB.1.8.1 và XFG.1.1 đang chiếm ưu thế. Các biến thể này có nguy hiểm và người dân cần làm gì để phòng ngừa Covid 19?Cục Phòng bệnh (Bộ Y tế) đánh giá hiện nay phần lớn các trường hợp mắc Covid-19 và cúm có triệu chứng nhẹ và hồi phục sau điều trị. Tuy nhiên, bệnh vẫn có thể diễn biến nặng ở những người có nguy cơ cao như: Người cao tuổi, trẻ nhỏ, phụ nữ mang thai, người mắc bệnh tim mạch, bệnh phổi mạn tính, đái tháo đường, bệnh thận hoặc các bệnh nền khác, người suy giảm miễn dịch, người đang điều trị ung thư hoặc sử dụng thuốc ức chế miễn dịch. Những người này cần đặc biệt chủ động thực hiện các biện pháp phòng bệnh để hạn chế nguy cơ nhập viện và tử vong.Cục Phòng bệnh, Bộ Y tế đang phối hợp với các địa phương, các cơ sở khám bệnh, chữa bệnh và các viện chuyên ngành tiếp tục giám sát chặt chẽ tình hình dịch bệnh, theo dõi số mắc, số ca nhập viện, các trường hợp nặng, tử vong cũng như sự lưu hành của các biến thể SARS-CoV-2 nhằm kịp thời đánh giá nguy cơ và triển khai các biện pháp đáp ứng phù hợp.Để chủ động bảo vệ sức khỏe bản thân, gia đình và cộng đồng, Cục Phòng bệnh đề nghị người dân thực hiện tốt các biện pháp sau:Thứ nhất, đeo khẩu trang đúng cách khi đến cơ sở y tế, trên phương tiện giao thông công cộng, tại nơi đông người hoặc trong không gian kín, kém thông khí. Người có các triệu chứng viêm đường hô hấp cần đeo khẩu trang khi tiếp xúc với người khác.Thứ hai, thường xuyên rửa tay bằng xà phòng hoặc dung dịch sát khuẩn; che miệng, mũi khi ho hoặc hắt hơi bằng khăn giấy, khăn vải hoặc khuỷu tay áo; hạn chế đưa tay lên mắt, mũi, miệng.Thứ ba, giữ nơi ở, nơi làm việc thông thoáng, tăng cường thông khí tự nhiên, đặc biệt khi tổ chức các hoạt động tập trung đông người.Thứ tư, duy trì lối sống lành mạnh, ăn uống đủ chất, vận động hợp lý, ngủ đủ giấc và kiểm soát tốt các bệnh nền.Thứ năm, khi có các triệu chứng như sốt, ho, đau họng, sổ mũi hoặc mệt mỏi, cần hạn chế tiếp xúc với người khác, đồng thời chủ động liên hệ với cơ sở y tế nơi gần nhất để được tư vấn, khám, điều trị; không tự ý sử dụng thuốc khi chưa có chỉ định của cán bộ y tế.Thứ sáu, khi triệu chứng kéo dài hoặc có dấu hiệu nặng, đặc biệt đối với người thuộc nhóm nguy cơ cao, cần đến ngay cơ sở y tế để được khám, tư vấn và điều trị kịp thời./.

Tòa án nhân dân TP.HCM vừa ban hành quyết định đưa ra xét xử sơ thẩm đối với 227 bị cáo trong chuyên án VN10 bắt đầu từ ngày 17/8/2026. 47 công dân Việt Nam bị Mỹ trục xuất vì từng vi phạm pháp luật đã về lại Việt Nam hôm 4/8.

VOV1 - Sở Giao dịch Chứng khoán TP.HCM (HOSE) vừa cập nhật danh sách chứng khoán không đủ điều kiện giao dịch ký quỹ (margin) tính đến ngày 3/8/2026.Theo danh sách mới, số lượng cổ phiếu và chứng chỉ quỹ không đủ điều kiện cấp margin đã giảm từ 59 xuống còn 57 mã. Theo danh sách mới, nhóm cổ phiếu thuộc diện cảnh báo tiếp tục chiếm tỷ trọng lớn nhất với 29 mã, tương đương hơn một nửa tổng số chứng khoán không đủ điều kiện giao dịch ký quỹ.- 57 mã cổ phiếu không đủ điều kiện giao dịch ký quỹ trên sàn Tp.HCM- Cần hiểu đúng quy định chung cư có "thời hạn sử dụng"- Phiên giao dịch chứng khoán hôm qua, thị trường chìm trong sắc đỏẢnh minh họa

Spooky this morning with a bunch of fog settling in. Should warm up later and be rather nice. Look for some showers & possible thunderstorms tomorrow night, however. It's Hypothetical Thursday…where we ask each other hypothetical questions. Jean went first this morning and her question for Brian was: " " Brian's question for Jean was: "If you could get $50,000 in cash for every inch of height you lose…how tall would you be?" Office Cora also joined us just after 8am to let us know what she's up to in the 715 this weekend. And we also sang "Happy Birthday" to her as she celebrated her b-day earlier this week. In the news this morning, an update on the Nolan Wells case, a recall on jalapenos, the latest on Perez Hilton, a non-profit in Wisconsin bails out a bunch of the Madison protestors, and have you seen the Jiu Jitsu nurse??? In sports, the Brewers beat the Pirates again last night, a new winner at the WSOP, a Mets rookie does the Superhero landing after his first career strikeout, Stefon Diggs is signing with the Commanders, Jalon Walker's season is over, and Aaron Donald is getting closer to making a comeback in the NFL. We talked about what's on TV & streaming today. Plus, the Queens of the Stone Age had a complaint line, Charlie Sheen is launching a podcast, Disney has already sold all the Super Bowl ads, and a new documentary about OJ Simpson's failed "Juiced" show is coming out. A guy who survived a shark attack in the Bahamas is welcomed home by his friends & neighbors, and a 64 year-old father of five just graduated nursing school after attending alongside his son! Do you know when the average person reaches PEAK happiness??? It's apparently age 47. Elsewhere in sports, LIV golf apparently has new funding, Justin Herbert & Madison Beer can't keep their hands off each other at Chargers practice, and the Akron Zips have a unique contest for their season ticket holders. And in today's edition of "Bad News with Happy Music", we had stories about a #FloridaMan who tried to kill a teenager because of a lobster diving spot, a doorbell camera that captured a 15 year-old kid in a clown costume who's accused of murder, a poster created by A.I. wins a contest at the Ohio State Fair and people are PISSED, a guy on a rollercoaster gets hit in the face with a shoe, a truck hauling a porta-potty leaks TP all over the highway, and a mom in Texas who left her kids at home to drive to her boyfriends house.See omnystudio.com/listener for privacy information.

VOV1 - Đoàn khảo sát của Ủy ban Khoa học, Công nghệ và Môi trường của Quốc hội do Phó Chủ nhiệm Tạ Đình Thi làm Trưởng đoàn vừa làm việc với Tổng công ty Điện lực TP.HCM (EVNHCMC) về Lưới điện thông minh.Báo cáo tại buổi làm việc, ông Luân Quốc Hưng – Phó Tổng giám đốc EVNHCMC đã giới thiệu khái quát về tình hình cung cấp điện trên địa bàn TP.HCM sau khi mở rộng địa giới hành chính, kết quả triển khai lưới điện thông minh, chuyển đổi số và định hướng phát triển hệ thống điện đáp ứng yêu cầu phát triển của Thành phố trong thời gian tới.Cụ thể, hiện nay EVNHCMC đang quản lý địa bàn rộng khoảng 6.773 km2, gấp hơn 3 lần so với trước kia, quản lý hệ thống điện quy mô lớn với 6 trạm biến áp 220kV, 110 trạm biến áp 110kV, 65.187 trạm phân phối 22kV và 1.825km đường dây truyền tải 220kV - 110kV, trong đó tỷ lệ ngầm hóa đạt 13%.EVNHCMC đang cung cấp điện cho khoảng 3,88 triệu khách hàng, công suất phụ tải cực đại đạt 9.668 MW và sản lượng điện thương phẩm đạt 56,03 tỷ kWh. Chất lượng cung cấp điện tiếp tục được nâng cao với tỷ lệ tổn thất điện năng giảm còn 2,86%; chỉ số thời gian mất điện trung bình của khách hàng (SAIDI) đạt 158 phút và số lần mất điện trung bình (SAIFI) đạt 1,41 lần.Tổng công ty cũng đã xây dựng kế hoạch và lộ trình đầu tư phát triển hệ thống trạm và đường dây giai đoạn 2025-2030 nhằm đáp ứng mục tiêu phát triển 2 con số của Thành phố với phương châm “điện đủ, điện tốt, điện xanh và điện an toàn”; tiếp tục tập trung mở rộng, hiện đại hóa lưới điện truyền tải và phân phối; đẩy mạnh tự động hóa, quản lý hiệu quả các nguồn năng lượng phân tán và hệ thống lưu trữ năng lượng; ứng dụng trí tuệ nhân tạo, dữ liệu lớn trong dự báo phụ tải và vận hành; bảo đảm an toàn thông tin, an ninh mạng; nâng cao chất lượng dịch vụ khách hàng và phát triển nguồn nhân lực chất lượng cao, hướng tới xây dựng hệ thống lưới điện thông minh đồng bộ, hiện đại, đáp ứng yêu cầu phát triển kinh tế - xã hội của TP..  Ảnh: Đoàn công tác khảo sát thực tế tại Trung tâm Điều độ Hệ thống Điện TP.HCM 

VOV1 - 7 tháng đầu năm 2026, TP.HCM thu hút hơn 9,8 tỷ USD vốn FDI, tăng 44,5% so với cùng kỳ, tiến gần mục tiêu 11 tỷ USD cả năm. Kết quả này cho thấy sức hấp dẫn của môi trường đầu tư, tạo đà để Thành phố đẩy mạnh thu hút vốn vào các lĩnh vực công nghệ cao, đổi mới sáng tạo và phát triển bền vững.

VOV1 - Bộ Tư lệnh Vùng Cảnh sát biển 4 vừa phát hiện và bắt giữ một tàu cá vận chuyển trái phép khoảng 50 tấn thủy sản không rõ nguồn gốc.Cụ thể, ngày 27/7, tại vùng biển cách Đông Nam Bồ Đề, tỉnh Cà Mau khoảng 25 hải lý, lực lượng chức năng đã kiểm tra tàu cá do ông Huỳnh Văn Thương làm thuyền trưởng. Qua xác minh, phương tiện này đã dùng số hiệu giả và thiết bị giám sát hành trình của tàu khác để vận chuyển 50 tấn thủy sản trôi nổi. Hiện, lực lượng Cảnh sát biển đã lập biên bản, dẫn giải phương tiện về cảng để tiếp tục điều tra, xử lý nghiêm theo quy định của pháp luật. - Cảnh sát biển bắt giữ tàu cá vận chuyển 50 tấn thủy sản không rõ nguồn gốc- Công an TP. Hồ Chí Minh triệt xóa nhiều đường dây ma túy ngụy trang trong thuốc lá điện tử- Tăng cường kiểm tra, xử lý hàng loạt vi phạm an toàn thực phẩm tại Thái Nguyên và Gia Lai- Hải quan: nỗ lực siết chặt kiểm tra, giám sát hàng hóa qua tuyến biên giớiTàu cá vẽ số hiệu KG 94862-TS tại thời điểm bị phát hiện, kiểm tra. Ảnh: Đức Thái/TTXVN phát

Watch the full episode on YouTube:We first covered Baseten last year when DeepSeek mania was at peak hype. Now they have raised a monster $13B round and become one of the new cohort of AI Infra decacorns that are (with Nvidia, Intel, and the semis complex) chief beneficiaries of the Inference Inflection. We return to Baseten at the peak of the 2026 edition of Open Weights debate. Ali has published a viral breakdown of Kimi K3:And since you last saw him, Philip has spoken at AI Engineer and written the definitive book on Inference Engineering spotted all over SF:Three years ago, inference engineering barely existed as a category.Today, it is one of the most critical disciplines in AI. Inference engineering inherently tackles a different question than standard model training: “How do you turn those weights from training into a product that is fast, reliable, and affordable at scale?” Focusing on these creates an entirely new optimization problem.In one recent GLM-5.2 experiment, quantizing more of the model actually preserved its benchmark quality while increasing throughput by 20%, because the errors introduced in different layers could cancel each other out.Inference is no longer just the final step after training. It is becoming its own engineering discipline, with its own research problems, infrastructure, and increasingly specialized roles.In this episode, Baseten's Philip Kiely and Ali Taha join swyx and Vibhu to explain what actually happens after a new open model is released and what it takes to turn “we generated a token” into a fast, reliable, production-ready API.We go deep on cache-aware routing, disaggregated prefill and decode, quantization, speculative decoding, KV-cache movement, model parallelism, GPU kernels, and the race to make frontier models up to 10× faster. Philip and Ali explain why inference optimizations can still produce gains of 20%, 100%, or even 200%; how quantization errors can cancel one another out; why identical weights can behave differently across clusters; and how Baseten grafted a Kimi vision encoder onto GLM-5.2 without changing the underlying language model.The conversation then expands beyond LLMs into NVIDIA Dynamo, mega kernels, Rubin, AI-specific chips, local inference, video generation, diffusion versus autoregressive models, and the enormous compute barrier to generating coherent long-form video. Finally, we explore the convergence of training and inference, continual learning through persistent KV cache, and the emerging loop where models help optimize the infrastructure that runs them.We discuss:* What happens when a 200,000-token request enters an inference system* Cache-aware routing and reusing previously computed KV cache* Why prefill and decode are increasingly handled by different GPUs* When dedicated deployments become cheaper and more reliable than shared APIs* How speculative decoding uses a smaller model to accelerate a larger one* Tool calling, structured outputs, and what LLMs actually do* What it takes to support a new open model on day zero* Grafting Kimi's vision encoder onto GLM-5.2* Retrofitting inefficient model layers with components from other architectures* Why models sometimes collapse into repeating the same token* How hardware, kernels, and race conditions create nondeterministic failures* Preserving model fidelity while making inference faster* How quantization errors can cancel each other out* Why inference optimizations still deliver gains of 20%, 100%, and 200%* How optimized serving can make a model up to 10× faster* NVIDIA Dynamo, KV-aware routing, and distributed model serving* Speculative decoding the speculative decoder* Why local AI is about making models less dumb while data-center AI is about making them less slow* Tensor, expert, and pipeline parallelism across GPUs* Hardware-aware model design, auto-tuning, and the case against mega kernels* Rubin and why inference is becoming a systems problem* Whether modern GPUs are evolving into programmable AI ASICs* Why enormous models like Kimi K3 require GB300-class hardware* Why open-source video generation still trails Veo, Kling, and other closed models* The quadratic attention bottleneck behind long-form AI video* Autoregressive video, real-time generation, and compounding quality drift* Why future video systems may combine autoregressive and diffusion architectures* Training for inference and inference for training* Continuous post-training, deployment, evaluation, and improvement loops* How GLM-5.2 helped optimize the kernels serving GLM-5.2 itself* Why faster networking could unlock dramatically faster decoding* Continual learning, KV-cache compaction, and persistent model memoryShow Notes* How to build a day-0 API for Kimi K3* 22580: From GPT2 to Kimi3, ExplainedPhilip Kiely* LinkedIn: https://www.linkedin.com/in/philipkiely* X: https://x.com/philipkiely* Inference Engineering: https://www.baseten.co/inference-engineering/Ali Taha* LinkedIn: https://www.linkedin.com/in/aliestaha/* X: https://x.com/waterloointernTimestamps00:00:00 Introduction and the 200K-Token Prompt00:03:18 Dedicated Deployments, Speculative Decoding, and Tool Calling00:11:26 Launching Production-Ready Open Models00:19:06 Model Retrofits, Failure Modes, and Nondeterminism00:28:22 Quantization and Canceling Errors00:32:15 The Race to 10× Faster Inference00:40:48 Dynamo, Speculation, and Local vs. Data-Center AI00:50:18 Model Parallelism, Auto-Tuning, and Mega Kernels01:00:55 Rubin, GPUs vs. ASICs, and Custom AI Chips01:10:03 Giant Models and the Limits of GPU Memory01:12:42 AI Video, Quadratic Attention, and Autoregressive Generation01:21:47 Audio, Images, and Diffusion Models01:27:32 Training, Self-Optimizing Models, and Continual Learning01:40:06 Closing ThoughtsTranscriptIntroduction: Baseten, Waterloo Intern, and Inference EngineeringSwyx [00:00:00]: Okay, we're here in the studio with Philip, old friend from Inference Engineering, the book, as well as Baseten and everything that you've done, you and I have done before, as well as Ali. Welcome.Ali [00:00:15]: Pleasure to meet you.Swyx [00:00:15]: Waterloo intern.Ali [00:00:16]: Waterloo intern, always.Swyx [00:00:17]: When did you get “Waterloo intern” as a handle?Ali [00:00:19]: As a handle? Oh.Ali [00:00:20]: I think the rebranding happened mid-March. When I saw it was open, I was like, “I have to take it. Up for grabs.”Philip [00:00:26]: The problem is that Ali is really good at his job and is not gonna be an intern much longer.Philip [00:00:30]: So we have to figure out who's gonna get the handle.Ali [00:00:33]: Well, I'll pass the torch over to the next intern.Swyx [00:00:34]: Oh, okay. It can be, like, you just pass it to another Waterloo grad.Ali [00:00:37]: To another Waterloo intern. No, bruh.Philip [00:00:39]: Yeah.Ali [00:00:39]: Intern.Swyx [00:00:40]: Intern, yeah.Ali [00:00:40]: And no.Philip [00:00:41]: You gotta get an intern from Waterloo.Ali [00:00:42]: Yeah, I've gotta get an intern from Waterloo.Swyx [00:00:44]: Right.Ali [00:00:44]: But they have to follow the path.Swyx [00:00:45]: Oh, it could, but it could come from Baseten, so it's like whoever Baseten gets from Waterloo.Ali [00:00:48]: Right.Swyx [00:00:49]: Has the title of Waterloo.Ali [00:00:50]: It stays in the ecosystem.Philip [00:00:51]: Exactly.Ali [00:00:52]: Halfway through the internship, you either get it or you're out.Philip [00:00:55]: You should also do, like, a big graduation ceremony where you change the handle.Ali [00:00:59]: Just say it.Philip [00:00:59]: For everybody.Swyx [00:01:00]: You guys are good at ceremonies, clearly. We had a nice launch of the book, very successful. But before we get into all that, I wanna start off with a fun question for you. Okay, you're an expert inference engineer. What happens when I send a long query, say two hundred thousand tokens into Baseten's inference? What's the process of query through GPU model routing, balancing, all that? What is all the stuff that we don't think about?Long Context Requests, KV Cache, and Cache-Aware RoutingPhilip [00:01:26]: With a long query specifically, the first thing that I'm gonna ask is, “Have you sent me this query before, or at least part of it?” and I really hope you have, because it's gonna be a lot easier for me and a lot cheaper for you. So the first thing that we're gonna look at is some cache-aware routing, where we're going to see, we probably have a number of instances, a number of replicas up serving whatever model you're hitting. We want to send this one to something with, number one, available prefill workers, and number two, ideally some cached input already there so that we can skip prefill on at least part of these two hundred thousand tokens. If you're doing two hundred thousand tokens, it's probably coding or a multi-turn agent or something where you would expect to have that cached. If you don't, we're gonna have to send it to a prefill worker. We've at least on certain models disaggregated prefill and decode, so you're going to have one set of GPUs that's solely going to process the input, create the KV cache, and get you your first token, and then that's going to be passed over to a separate set of GPUs, which is going to run decode. We're going to iteratively make those tokens. We're probably going to have some speculator model in front of that. I'm going to assume that you're doing coding, and because of that, our speculator model, which assumes you're doing coding, is gonna have a high draft token acceptance rate. If I'm wrong and you're asking me to summarize every Harry Potter book, it's gonna be slower. And then we stream that output to you and account for it, charge you, a couple of pennies and say, “Hey, would you like to send another one?”Swyx [00:03:04]: Except Baseten doesn't charge by pennies.Philip [00:03:07]: Well, yeah, we charge. I'm assuming that we're talking about the public model APIs. If you are setting up a dedicated deployment, then yeah, it's not pennies.Public APIs vs. Dedicated DeploymentsSwyx [00:03:18]: Yeah, one of the key differentiators when I was talking with Baseten initially was that people who want very high volume just need to rent by the box, ‘cause then it's up to you to figure out how to saturate the box.Ali [00:03:31]: And more often than not, it's, like, way cheaper if you're pushing, like, millions of tokens per hour, if you just pay per hour instead of pay per token.Philip [00:03:37]: Yeah, they do. I think that we've increasingly seen a lot of demand for the pay per token APIs, just because everyone wants to try open models, and then once they find a use case that's really sticky, then they move over to dedicated.Swyx [00:03:51]: Is there a best practice on when it's time to swap over?Philip [00:03:54]: Couple reasons. Yeah, reliability, that's a big one, right?Ali [00:03:57]: Like, if they have a very specific use case, they want you to train something specifically for them, like they want their own spec dec, for instance, for their own traffic.Swyx [00:04:04]: Spec dec is speculative decoding.Speculative Decoding and Custom SpeculatorsAli [00:04:05]: Speculative decoding, yeah.Swyx [00:04:07]: You have to explain.Ali [00:04:07]: Sorry. Like, speculative decoding is like, if you have a huge model, right? And so the model is going to be generating one token at a time every single turn, every single forward pass. So we attach, like, this little, like, parasite, like this layer that goes on top of the model, and this model just has to predict. It does three very fast autoregressive forward passes, and it will predict, like, three certain tokens, and then you do one forward stage over the entire original model in order to see if those predictions were correct or not, and then you accept them or you reject them. Now, this draft model is traffic specific, so if you, like, Philip said, if you're summarizing Harry Potter books, I can train exclusively that draft model on Harry Potter books, and I can guarantee you that I'm gonna accept the three tokens every single time. And so with that case, I increase your decode speed. I wouldn't be able to provide this to you if you're a shared endpointSwyx [00:04:53]: YeahAli [00:04:53]: ‘cause I have no idea if you're doing Harry Potter, if you're doing coding, if you're doing English. We don't know. Also, there was a thing in the book that mentioned that if they really cared about a specific threshold, chapter four, I think. Do you remember that?Philip [00:05:06]: Yeah. The things that you can do is you can set a specific, like, batch sizing, a specific, like, parallelism strategy if you're trying to optimize for, like, throughput versus latency. You can. Maybe a NVFP4 quant doesn't pass your benchmarks and you wanna run a model at higher precision, you could do that. There's just a bunch of reasons why you might wanna have your own endpoint and the biggest one, of course, just being, like, you don't have to deal with someone else doing a hundred million tokens of benchmarking traffic at the endpoint when you happen to be trying to serve your users.Swyx [00:05:40]: Yeah. I think one thing that is. That is a classic journey. Like, it's people is asking the, what happens when you type Google into the browser. Tool calling, is that just, you're generating JSON or is there more complication beyond that?Tool Calling, JSON, and Structured OutputsAli [00:05:58]: Certain customers that we have, they have their own post-trained models, and so they demand a tool calling that's not just, like parse a file or go find the weather. It's something that's very specific and you have to do post-training on this. And if the post-training on the model is not good or if the quantization after the post-training to get the inference to be fast, the model will struggle reading the JSON file and reading the tool calling. But it doesn't require its own like sandbox. It's not like it's going to use that tool calling to like escape a sandbox or like it doesn't have to be contained. It can just be a normal dedicated deployment. The challenge with tool calling more and more seems to be that the companies want certain tool calling which is a very sensitive thing to train. And because you're dealing with all of the JSON outputs, if it doesn't like close the end of the request in a very certain manner, you end up with a model that did the tool calling and like the thinking and so as a result of that, it didn't see the result and just hallucinated the result as it decoded. That seems to be the most challenging thing with tool calling, not really the sandboxes model.Philip [00:06:56]: Yeah, that's a challenge on the training side and then on the inference side, there's work that you can do to scope the possible output. So we published this at this point close to two years ago, the solution to this problem which is you make a state machine and you use that to constrain the output to a specific format. So this is the structured output problem. If you remember backSwyx [00:07:27]: Yeah, the specific grammar is,Philip [00:07:29]: Yeah, exactlySwyx [00:07:30]: GML had this thing.Philip [00:07:31]: Yeah. So it's like the old-school “make sure this is only JSON”, return only JSON orSwyx [00:07:38]: YeahPhilip [00:07:38]: Grandma's gonna die type of prompts.Swyx [00:07:39]: Is it BNF grammar? At some point OpenAI had released a thing that was like, yeah, if you want to constrain your output, write BNF grammar, back as NOR.Philip [00:07:47]: In our inference system, it's just a specified output format. And you get the guarantee that your output's gonna be structured along that format. And so applying that to tool calls can like help cut down on. You can still call the wrong tool or call no tool. It doesn't solve the certainty problem but it at least solves the output structuring problemSwyx [00:08:10]: YeahPhilip [00:08:10]: Within tool calls.Swyx [00:08:12]: And MCP is just another form of tool, right.Philip [00:08:14]: Yeah, exactly.Swyx [00:08:15]: As far as there's no special thing there.Philip [00:08:16]: The thing I'm always like explaining to people is the LLM is not capable of doing anything. It's only capable of making suggestions of what to do and then if those suggestions are formatted in a certain way and applied to a system that knows what to do with them, then an action occurs.Swyx [00:08:32]: Yeah. Part of the fun stuff is, this is solved outside of tool calling too. Like in an agent loop if the output is not correct or you're right, like reasoning, tool calling was done in the reasoning trace, just be like, “Oh, I don't know what to do. Let me just try again.” And it might get there after a few tries. And on your point of training, sometimes this is harder in smaller models, so you don't have the same exact quality outputAli [00:08:56]: Right.Swyx [00:08:57]: When you just swap from a big model, right?Ali [00:08:59]: Yeah. I will say that, before, I think we need to go back to inference engineering proper.Ali [00:09:04]: But, I had expected that something would replace JSON because it's hard to stream JSON ‘cause JSON must be complete and you must have open and close brackets and everything. So it's hard to parse something or validate something while it's being streamed. So people invented all sorts of things that are like, I forget the name of some of these alternatives, but it's something like TOML, something like YAML. But JSON seems to be dominant still.Philip [00:09:30]: The JSON outputs aren't that long, right? Like you could have a long-- ‘cause tool calls also contain the arguments in them and perhaps for a certain tool you might pass like a very long argument. But my impression of the median tool call is that it's a relatively small number of tokens, right? So I would expect that speculators are generally fairly good at something as formatted as JSON. And so you would have like a pretty fast decode step there and that the streaming wouldn't be as valuable, but maybe I'm wrong about that.Ali [00:10:02]: I think you're also bounded by the software or that the model is gonna integrate with if the software is built with JSON for the tool calls or if the company that you'- if your customer says that this is how our software works and our tools are interfaced with JSON, you can ask them to like, change their software and say like, “Yeah, this is gonna be better for the model.” but like with the right training shouldn't be that much of a difference. Also more profitable if it outputs more tokens probably.Swyx [00:10:25]: Depends on your business model.Swyx [00:10:27]: It really depends. But I will say that, as a writer with like experience a lot with generated output, I do try to move from text to JSON text which is very long JSON, right? Like there's paragraphs in every field because I'm trying to structure it, right?Philip [00:10:44]: Right.Swyx [00:10:44]: I want you to first make factual statements, then make opinions then make bullet point summaries, have dates, have entity references have your sources for references, all these things. Anyway, so these are things that like I think people who really experiment with structural output have to really care about. But, let's, let's recurse up the stack a little bit. Before we started recording, you mentioned something really cool, which is that there's a lot of engineering that-- inference engineering that goes on when a new model provider releases a new model, right? So let's call it GLM-5.2, Kimi K3. I had previously assumed, especially if it's like, well, GLM 5 to 5.1 to GLM-5.2, like that you've supported them before. Is it that much work?What It Takes to Support a New Open ModelAli [00:11:26]: It's a lot of work.Swyx [00:11:28]: Yeah. Okay. So like, a lot of people, all you guys, right whenever a new model launch like, people rush to say like, “Oh, Hugging Face supports this, Fireworks supports this, Spacetime supports this,” and I'm like, “Yeah, of course we support it.” But what goes into that? What goes intoPhilip [00:11:40]: I think it's more than just support it too, right? It benefits the consumer a lot. Like I think it was with Kimi K2.5 or GLM-5.2 the latest, there was an inference war, right? X provider is at 90 tokens a second. The next day we're at 150. The nextSwyx [00:11:55]: I kinda kicked that off with the GLM-5.2.Swyx [00:11:58]: I wrote a Twitter article about. It got like half a million views,Ali [00:12:02]: Based on being numberSwyx [00:12:03]: YeahAli [00:12:04]: Or it's for something else.Swyx [00:12:05]: Yeah. Which,Ali [00:12:06]: Oh my GodSwyx [00:12:07]: Which then got everyone really excited about, hey, how can we, bend tracks a little bit further and,Philip [00:12:14]: There's a difference between support the model, as in I can make a token out of this model, and support a model, as in I have a production-ready API from this model.Philip [00:12:26]: Getting to the point of I can make a token out of this model is not that hard because generally the, open source inference engines, vLLM, SGLang of the world oftentimes even receive weights ahead of time, maintainers do, or the people making the model merge PRs to ensure support. So you generally can, just get it working on the standard open source stack without too much pain in most cases. The challenge is, every inference company is gonna have own proprietary stack. Some open source components, some in-house stuff. And for any arbitrary model, there's going to be some new stuff. Sometimes you get lucky, like K, two five to two six was, like, pretty similar.Quantization, Speculators, and Production ReadinessAli [00:13:16]: Yeah. It was pure continued post-trainingPhilip [00:13:18]: YeahAli [00:13:18]: If I remember correctly.Philip [00:13:19]: Even in those cases, there's still stuff you have to do. You have to redo the quantization work. You're taking the model from. Generally, these models are not released in NVFP4, and we want them to be in NVFP4 for maximum Blackwell compatibility. So we have to perform that quantization, and, calibrate the quantization to make sure that we're not causing any regression in the model's intelligence. And then we also have to train the speculator, as we've talked about. Generally, we have. We have ZDR, zero data retention on our model APIs, so we don't know exactly the traffic that people are sending us, but we know what's popular. We know that coding use cases are popular. We know that agents, agentic use cases are popular. So we can get public data sets that are representative of that traffic and train general speculators. Now, with speculators today, you need to train the speculator using the base model itself because you're getting hidden states out of the model from running inference on these specific prompts, and that is the training data you use to create the speculator. So there's that process which you need the real model weights for. And then there's of course just the process of, standing up all the infrastructure behind it, loading all this stuff, testing it. And then when there's a new model with a newer architecture, I think that, like, the DeepSeek models tend to be the most challenging as they have, like, the most novel architectural stuff going on, model after model. But every new model has something. Kimi K2 had. Oh, sorry, GLM-5.2 hadAli [00:14:53]: Sparse attention.Philip [00:14:54]: Yeah,Ali [00:14:54]: YeahPhilip [00:14:54]: the DSA.Ali [00:14:55]: Right. Which is brought from DeepSeek.Philip [00:14:57]: Yeah. AndAli [00:14:59]: So you can copy-paste then?Philip [00:15:01]: It kindAli [00:15:01]: I don't know how this works.Philip [00:15:02]: So, like we had to, like, build support for that into our runtime. And you're right, like it is really interesting the way that all of these open source labs borrow from each other. For example, like GLM-5.2 doesn't have vision. So something that, Haley, a guy on our team, if we could take a look at this, he, like, grafted the Kimi vision encoder onto GLM-5.2.Retrofitting Vision into GLM-5.2Ali [00:15:27]: We'll be training the projector.Philip [00:15:28]: Exactly. So if you think about, like, the encoder, there's the encoder, which is the part that looks at the image and turns it into latent information, and then there's the projector which likeAli [00:15:38]: You can say latent space. It's okay.Philip [00:15:41]: And then there's the projector that maps it onto, the model itself, and then there's the model weights. You don't wanna mess with the model weights because you run a chance of making the model dumber at something else for the purpose of giving it vision. So instead, Haley started with just a projector, which is only a handful of millions of parameters.Ali [00:16:02]: That would be, yeah.Philip [00:16:02]: Yeah.Ali [00:16:03]: Can you show the training one?Ali [00:16:04]: Like the way it groksPhilip [00:16:05]: YeahAli [00:16:06]: Very interesting.Philip [00:16:06]: And maybeAli [00:16:07]: That right therePhilip [00:16:07]: Maybe Ali, you should take it from here. You've got a betterAli [00:16:10]: Ooh, double the sandPhilip [00:16:11]: Understanding of this than I do.Ali [00:16:11]: Yeah. You can see, like, he. The way he trained this is really cool. At the beginning, he was training it using just like, “Here's a picture of a mountain. Can you describe what's in this mountain?” And that caused it just like the first, learning walls. Like here you can see this all we're trying to teach it is to translate the encoded. Like it's already taken the encoder from Kimi K. It's taken the image. It'Philip [00:16:31]: Yeah. FrozenAli [00:16:31]: FrozenPhilip [00:16:32]: With adapter.Ali [00:16:32]: Exactly.Philip [00:16:33]: Yeah.Ali [00:16:33]: So the brain is frozen and the eyes are frozen. It's just we're tryingPhilip [00:16:37]: AlignAli [00:16:38]: Interconnect between the eye and the brain, right? So the projector. And so you take the tokens and then he's like, “Oh, can you describe what's in this image?” And he's like, “Oh, it's a mountain,” or it's a person or it's a human, whatever the case is. But that didn't cause complete understanding. So he changed it such that every image was associated with a data set of questions. Like, does this image have a white male? Does this image have birds in the top corner? Does this image have a scientist in it? All of that stuff. And it would have to answer questions correctly. And using not just training on describing an image, but being able to answer question, another question, answer over time. Like you can see the grokking, which is like genuinely insane, that retrofitting vision into a large LLM can learn to that extent. And even for images that it doesn't perform well on, for instance, if you ask it a picture of like Stephen Hawking, “Who is this?” Maybe it doesn't get it, but it will say something like, “This is Albert Einstein.” Like it still understandsPhilip [00:17:25]: Close enoughAli [00:17:26]: That this is a scientist who is a man who has, some significant achievements, all that stuff. So that's like really cool.Philip [00:17:32]: Yeah. So, we've covered Hao Tian before, who the author of the LLaVA paper that did this, a while ago. And I think that's very foundational work for anyone who hasn't done vision work before.Ali [00:17:41]: Same with the CLIP and MetaCLIP, where you go from just captioning to building out questionsPhilip [00:17:47]: RightAli [00:17:47]: Off the image and how much better you can get performance.Philip [00:17:50]: Right. Right. Right. Yeah. But what's, what's so exciting about this is if you look at a model like this. Now, this is a little bit more of a research project. It's not. It got to 56% on MMLU Pro, I think. So not quite frontier. But if you're running this model, you haven't suffered any loss on your GLM-5.2 quality. If you don't have an image, it'll just behave exactly the way it used to. And ultimatelyAli [00:18:14]: Which in the inference code you literally do not include the other part, right?Philip [00:18:18]: Yeah. You would just skip the encoder if you don't have an image input.Ali [00:18:22]: Okay.Philip [00:18:22]: Just confirming.Philip [00:18:23]: YeahAli [00:18:23]: Does it affect a lot on the overall inference side? Like you're not adding much, you're adding a very small vision encoder. These are typically likePhilip [00:18:30]: They're super fineAli [00:18:31]: Less than a billion parameters, right?Philip [00:18:32]: Yeah. It's, - There's a little bit less standardization among vision encodersSwyx [00:18:37]: YeahPhilip [00:18:37]: So the support matrix can be a little bit, sparser. But overall, yeah, it's a pretty, it's a pretty minor component of the overall system. And ultimately what you get out of the system is all of a sudden you have Kimi Vision, GLM weights, and DeepSeek attention all in one model.Open Source Model Grafting and Franken-MergesPhilip [00:18:56]: And that's, I think, a lot of the power and beauty of open source, is that you can take all of these different components and combine them together into a system that's better than anyoneSwyx [00:19:05]: YeahPhilip [00:19:05]: Can be individually.Swyx [00:19:06]: People used to say that you would also do Franken-merges where you would take likePhilip [00:19:10]: YeahSwyx [00:19:10]: Layers from each model.Swyx [00:19:11]: Does anyone do that anymore?Ali [00:19:13]: Well, to your point previously when you were mentioning like, the work that goes into supporting a model when it first comes out, like GLM-5.2 or MiniMax M3 or whatever the case is. Sometimes you do have to like, you do have to switch out some things. Like, for instance, the MiniMax M3 head uses full attention, and with full attention you end up with this like insane bottleneck in spec dec ‘cause you're doing auto-regressive token generation for three tokens, and you're doing this like N squared over all of the tokens that are in your sequence. Your KV cache is like very large because it's not sparse, it's not top K. So we find it better to like, okay, we're gonna replace this, we're gonna replace this layer with a layer from another model that's using like GQA, for instance. And then just with the right training, you can get it to have the same acceptance rate. So it is very possible to retrofit layers from other models and very much needed. If a layer is like inefficient, the training just becomes the challenge, like how do you ensure that you train it properly? Which again to your earlier point is like the mesh between training and inference. As in like you need very good training in order to do fast inference. That's like, I feel like more and more becoming true.Swyx [00:20:21]: Yeah. Anything else on the support side when you say like get it to fully production ready?Loop Detection, Race Conditions, and Non-DeterminismPhilip [00:20:26]: Yeah. I think that there's also a question of just, we can test a model to a pretty extensive degree, but we're trying to get it out quickly and then you see a bunch of other people test it and you get interesting results. There was an issue with, GLM briefly where we had some like mode collapses where it would just output the same token over and over again for certain prompts on certain temperatures. Like once you expose an endpoint to the real world, there's going to be, so many more varieties of things given to it that you're able to, discover and patch things. So it's not just a, day zero process, it's then like for the first week, for the first month, if a model remains popular, like how do you both fix bugs and then continue to push the envelope on performance?Ali [00:21:21]: What do you mean you don't want your model outputting S?Swyx [00:21:24]: Is there loop detection on that stuff, by the way? It still happens like quite a lot, which is surprising.Ali [00:21:30]: We have like we, in our endpoint, like if a model was to output the same token like four plus times, we just cut the generation. We say like, “Oh, sorry, this-- Like try again,” or like we will reprocess the request. ‘Cause we know then, like if it, like if, yeah, it's four times the same token, it's probably collapsed.Swyx [00:21:45]: Yeah. Is there a way to opt out in case I really want that?Ali [00:21:48]: You want that?Ali [00:21:50]: I think there's a way that we have to handle it. I'm not exactly certain, but I feel like in certain models, like when they output something like you can imagine, like a table for instance, and so they want, they wanna draw like 12 dashes and 12 dashes. Yeah, I think there's a way for that to happen. I think we only do it on certain tokens. Like we exclude certain special characters.Swyx [00:22:07]: Yeah.Ali [00:22:07]: So we only do it on like certain like S is the most common almost. GLM-5.2Swyx [00:22:11]: OhAli [00:22:11]: And I think it was DSV 4 as well. Like you'd just have like looping issues where like you literallySwyx [00:22:17]: ItAli [00:22:17]: Just have like S.Swyx [00:22:18]: Yeah. Is there a special, something special about S? No, just randomlyAli [00:22:21]: It just seems to be the one token involved.Swyx [00:22:23]: Yeah. And it'Philip [00:22:24]: Is thereSwyx [00:22:24]: And it's only temperature 0Ali [00:22:27]: NoSwyx [00:22:27]: Even at other temperaturesAli [00:22:27]: Even at like 0.9 or whatever, it will still, it will still collapse.Swyx [00:22:30]: That's weird, right?Ali [00:22:30]: It's, it is an inference problem to be honest, like a software problem. Like oftentimes, the image you run will-- like NVIDIA will release an image for instance, and if we will upstream the changes from their latest TensorRT-LLM image into our stack, we'll find that it fixes it. Or oftentimes this will only happen in an inference engine that you're using like SGLang. But if you were to switch to vLLM, that isn't the case. So it seems to be like an extremely like deterministic software issue and not really a model issue. It's not like a weights problem. Like I'- we'll say like, “Oh, it's a problem with the quant. We did PTQ wrong,” right? But that isn't, that doesn't make sense because the same weights used with a different inference engine does not repeat the problem. And sometimes it's, the kernels that are being used in the backend have like these very subtle sometimes race conditions, where if you were to use this model hosted on one cluster, you will never get this problem.Swyx [00:23:19]: Oh my God.Ali [00:23:19]: But if you host it on a different cluster, you will. And the reason is the KV cache transfer from a node to node in that one cluster is using a slower interconnect than the node to node in another cluster. So that exposes the race, whereas in another cluster it doesn't. So then you end up just like, okay, this model is not gonna be hosted on this cluster. We're gonna host it on, another cluster because that cluster exposed that problem. But then it ends up with like, okay, is it the software? Is it the model weights or is it the hardware?Swyx [00:23:42]: There is a thing about this with temperature 0 still not being deterministic, right?Ali [00:23:46]: Right.Swyx [00:23:46]: Mostly because of hardware. Even at temperature 0 same model, you won't always get the same output.Swyx [00:23:52]: Even-- But I'm surprised by the race condition one because, I thought PyTorch was a graph that like guarantees that you at least, execute things in the right order.Ali [00:24:02]: Well, yeah, true. Like I'm not, I'm not saying that there is. Like well, you have things like PTL optimizations where like you can start a kernel before the end of the previous kernel, and that's like ‘cause you want to do that because there'sSwyx [00:24:12]: It's like pipeliningAli [00:24:12]: Expense. Exactly.Swyx [00:24:13]: Yeah.Ali [00:24:13]: But it'- But you don't do it cleanly. Like you overlap a little bit of the execution. No, it is very possible that the kernel itself, like that one block that is supposed to be running in this instance of time, that kernel itself has a race condition. For instance, like a missing barrier. Like often if you're designing a kernel and you want it to make it to be very fast, if you don't test it extensively, you'll, you'll have certain threads access data points from registers before they've been written to by other threadsSwyx [00:24:36]: YeahAli [00:24:36]: For example, because like your barrier is wrong or your synchronization was wrong. But yeah, like the testing itself is very difficult in those like, andSwyx [00:24:42]: And there's no like borrow checkerAli [00:24:45]: What does that mean?Swyx [00:24:46]: Like Rust. Like the. If you're trying to have like memory safety It sounds like a comparable problem.Ali [00:24:52]: Well, yes, but you're working in CUDA, right, NVIDIA GPUs. Like- You just need a higher level language like modular Maybe that's what modular is supposed to do. I don't know.Quantization Quality and Vendor FidelityVibhu [00:25:00]: How do you see keeping quality of the model? So you talked about all these steps of, okay, you gotta do quantization, train your own speculative decoderAli [00:25:07]: RightVibhu [00:25:07]: Run on different hardware. Looking at other model providers, okay, you kicked off a inference speed race on the consumer end. What goes into keeping quality the same across them, right? Sure, you can run benchmarksAli [00:25:22]: YeahVibhu [00:25:22]: But, like, how do you determine how much quantization are there standards? What goes intoPhilip [00:25:27]: There's a few things on quality. Most inference optimizations are lossless. KV caching, for example. You are just recomputing or preventing recomputing the same values. Speculation, of course, if a draft token is wrong, it gets rejected. The main lossy optimization is quantization. And that really comes down to, number one, data format, number two, which parts of the model you choose to quantize, which layers, and number three, like doing a lot of calibration on the quantized weights, to ensure that you're preserving all the outliers. There's other tricks that you can do, though. A big one is long context, ‘cause one thing you asked at, right at the beginning is, “Oh, what's gonna happen if I send a 200,000 token request in?” So with a long input sequence, you need to, store a lot more information. You need to process a lot more tokens. And so even if a model has a context of a certain length, you might, as an inference provider, choose to build an API with a shorter context length, and of course a full length one as well. Because if someone doesn't need the full million token context, for example, you can get them better performance. I don't know if that's exactly like quality of the model. The way that I think about quality is to what degree are we faithfully serving the original model? If you think of a golden implementation of a model that performs exactly the way the model is designed to perform, I think of quality as how close are we getting to that, 100% fidelity of the model.Philip [00:27:13]: You can also, of course, think about quality from the training side and how do you push yourself past 100%. But when I think about purely inference optimizations, it's getting faster while staying as close to that 100% fidelity mark as possible. And certainly our standard internally is that, like you should not be able to tell the difference between our API and a, official API. I think Kimi in particular does a good job of vendor benchmarking hereAli [00:27:41]: YesPhilip [00:27:41]: Where they haveAli [00:27:42]: They released an actual vendor benchmark.Philip [00:27:43]: Exactly, yeah.Ali [00:27:44]: ‘Cause they accused, some people, Amazon? There was some provider that was not doing very well on Kimi's benchmark.Philip [00:27:50]: Yeah.Philip [00:27:51]: So, with Reflect we probablyVibhu [00:27:52]: This was a long time ago, right?Philip [00:27:54]: No.Ali [00:27:54]: Yeah, like threeVibhu [00:27:55]: They alsoAli [00:27:55]: Four, five months agoVibhu [00:27:57]: This also happened with, I don't remember which model, but they pulled out quite a few, and then they started a whole chart about this. It might have beenPhilip [00:28:03]: Kimi Vendor Verifier.Ali [00:28:04]: Yeah.Philip [00:28:05]: Yeah.Ali [00:28:05]: Yeah, ‘cause you, ‘cause you'd be pissed, right? Like if you'Philip [00:28:07]: Yeah.Ali [00:28:07]: If like if I'm a consumer and I'm using like Amazon's endpoint for instance, and I've used Kimi and I'm like, “Oh my God, like this is bad,” I'm not gonna say, “Oh, Amazon quantized the model in a bad way.” I'm gonna say, “Oh, Kimi sucks.” Right?Philip [00:28:17]: Yeah.Ali [00:28:17]: So it seems like that makes sense.Philip [00:28:19]: Yeah, they care. They care.Vibhu [00:28:21]: Justifiably.Ali [00:28:21]: Yeah, justifiably.Vibhu [00:28:22]: This is probably a stupid question, but just checking, has anything improved from main quantization?Philip [00:28:28]: Yeah.Vibhu [00:28:28]: Like, is quantization always strictly worse?Ali [00:28:30]: Well technicallyVibhu [00:28:32]: NoAli [00:28:32]: It's a lossy. QuantizationPhilip [00:28:33]: YeahAli [00:28:33]: Is a lossy, it's a lossy implementation.Philip [00:28:36]: Speed improvesVibhu [00:28:36]: Speed improves.Ali [00:28:37]: It the number, likeVibhu [00:28:38]: No, I' always look for inverse scaling laws.Philip [00:28:40]: Yeah.Ali [00:28:40]: Yeah.Vibhu [00:28:40]: This is something I learned from Noam Brown, where like things that normally act in one direction sometimes do.Philip [00:28:45]: Well, technically when you run a benchmark, because these models are deterministic, sometimes your,Ali [00:28:52]: YeahPhilip [00:28:52]: NVFP4 quant is like, two basis points higher than yourAli [00:28:56]: No, it's noise. It's noise.Philip [00:28:57]: Yeah, exactly. I'm like, yeah, it's, it's within. That's why I always say within margin of error.Philip [00:29:01]: And I stopped saying that because everyone assumes that what is, well, within some margin of error, we're barely inside of that to the worst, so we're saying. But yeah, sometimes it's just like, gives you a higher output score. But like Ali said, that's noise. To my knowledge, you're not necessarily making the results better. You're just trying to, again, like keep your fidelity as close to 100% to the original model.Layer Selection, KL Divergence, and Better QuantizationAli [00:29:27]: There is, to your point, research that we did on MP. I don't know if you are able to pullPhilip [00:29:31]: YeahAli [00:29:32]: A tweet we did. One of our research interns, Joshua, I think it's a tweet on how we have 20% better quantized GLM-5.2 than NVIDIA. Essentially what we found throughout like this month research is, okay, quantization is a lossy. It's. You're compressing the data from, occupying 16 bits to occupying, four bits, for instance. And so you're losing some information, and you're trying to minimize that. And so when I say that I'm gonna quantize the model, my job becomes how do I find the layers that I can quantize, and how to find the layers to not. For instance, with image models, I don't quantize modulation layers, and I don't quantize out projections because those two are. Like out projection is what you see as the user. Modulation is what the model sees or understands. Right, exactly. And so to his paper, do you have the. It doesn't have the. Yeah. It's a long paper. I don't know if I can findVibhu [00:30:25]: If there's a part to search or it's probably in the thread.Ali [00:30:28]: It's probably in the thread.Vibhu [00:30:29]: Yeah.Ali [00:30:29]: But the long and the short is it is very possible that quantizing more of the model makes the results. Like if I have a model that I quantize layers one, five, and 10, and another model where I only quantize layers one and It is possible that the model in which I quantized more information is going to perform better because the quantization errors have canceled out. And so what Joshua showed in his mathematical proof where he had like a verifier in, is that you can predict which layers are going to have quantization errors that will cancel out with each other, and you choose to quantize those layers. And so the result of doing this mathematical quantization is you end up with a model that's 20% more quantized than another provider, so you get 20% more throughput of it because there's more layers than running an NVFP4, and your quality is better than that other quant because the layers that you chose to quantize have their errors cancel out, like one layer skewed to the right one layer skewed to the left, one layer skewed to the right. Your final logits distribution is more similar to the original distribution of the model, so you have better fidelity. And so the way we proved this was with KL divergence. So instead of just scoring on the benchmarks, we scored the KL divergence between the logit distribution of the quantized model and the logit distribution of the original full precision model, and we showed that with this technique we get. If your probability distribution on the logits which token it wants to select is more of the same as the original model, you're probably gonna end up staying true to the original model. So yeah, so it seems like previously before this, it seemed like the industry was, well, the more you quantize, the worse it's gonna be, ‘cause the more loss you introduce. That's not exactly, not necessarily true. So yeah, doesn't improve it, but can cancel out.Philip [00:31:57]: I think it might be this, but reminds me a good bit about pruning where you can prune off certain layers.Philip [00:32:03]: But very interesting. Didn't know this was a whole paper you guys put out.Ali [00:32:06]: It's. Fun fact, it was originally 72 pages, this paper, and then we decidedPhilip [00:32:11]: WowAli [00:32:11]: We can't tell. We couldn't release it. So it's now 45.Swyx [00:32:15]: Still 39 pages, so very substantive. We talked about evals and all these things and, like what's possible in terms of speedup? Like it's like probably like the numberInference Speedups and BenchmarkingSwyx [00:32:25]: Thing that people do wanna care about, and it's something that you wrote about in your post. Like official API is 70 tokens per second, and you push it up to 90. Is that like a normal thing?Philip [00:32:36]: So what's cool about working in inference, the reason that I think inference is going to be a useful place to do engineering for a long time, is that if you look at highly optimized domains like, say, finance, if you're in finance, you measure how much better you got in basis points. It's like, “Oh, I got five basis points better, like twentieth of 1% better,” that's huge news because everything is so optimized. When we publish optimizations, it's 20%, it's 100% it's 200%. So there's still probably like a lot further to go, honestly. Like you'll, you'll know that inference is pretty much solved when researchers start publishing about how they got 1% faster at something.Swyx [00:33:19]: Which by the way, because I am from the finance background, in the ‘70s, that was the margin at the time. When you did quantitative finance research, you would findAli [00:33:27]: And like 20%, tens of percent.Swyx [00:33:29]: That's. Yes.Philip [00:33:29]: Yeah.Swyx [00:33:30]: And now it'Philip [00:33:31]: Tiny fractionsSwyx [00:33:32]: For those people interested, look up Andrew Lo's paper. He had a really interesting illustration of quant, stat arb, distribution, narrowing down from like those kinds of 20% differences in the ‘70s, down to nothing today, which is very cool.Philip [00:33:48]: Exactly, and we're at the beginning of the same type of thing. Now benchmarking is hard. I think anyone will tell you that, and benchmarking provider speeds is hard because there's so many variables that go into it. What hardware are you using? How much load do you have on the system? What's the exact nature of the prompts and input and output sequence lengths? All that stuff. But overall, when you start stacking these improvements, you're looking at multiples. You can look at it. The most common form, of course, is TPS, tokens per second, which is bad naming by us in the industry, ‘cause there's two tokens per second. There's tokens per second, the throughput number, and the latency number.Ali [00:34:31]: TTMT, yeah.Philip [00:34:32]: Like total tokens per second out of the, out of the GPU as a throughput number. Most people only care about tokens per second as the latency number, which we should call ITL, intertoken latency, but we don't.Philip [00:34:44]: Anyway, so you can imagine a standard API without many optimizations for a 1 trillion parameter model operating somewhere in the 30 to 50 tokens per second range for reasonable traffic profile. And we generally see the goal of, pushing to 10X that. But, not necessarily day zero, but by stacking enough optimizations, if you have, say like four optimizations, each of which doubles performance. Or sorry, three optimizations, each of which doubles performance, then you stack that up, that's an 8X gain. That's the order of magnitude that we're working with in this space. We're trying to make things substantially faster, not just go from like 70 to 90.Swyx [00:35:38]: Are you saying you've. You have done that?Philip [00:35:40]: So let's say you have as a reasonable baseline, 30 or 40 tokens per second. You can achieve 10X that. So like on GLM-5.2, if you run it unquantized, perhaps on H100s even, and you're just using an off-the-shelf inference engine with no particular optimizations, no speculator, nothing extra around like KV routing, no disaggregation, you're, you're probably, yeah, looking at that like 30 to 40. You think that's like a reasonable baseline?Swyx [00:36:12]: Right. Right.Philip [00:36:12]: To get to something like 10X, there's a lot of trade-offs that you're making. If we're running at more like a 300, 400 tokens per second range, you are using the best hardware possible. You have a optimized speculator. You have done all of your quantization work. You are Seeing a pretty high cache hit rate. You are running with a reasonably small batch size and a parallelism configuration that is tuned for latency versus throughput, but it is possible. So the spreads that you see if you, like, go on artificial analysis or you go on OpenRouter and you look at, the worst provider to the best provider, oftentimes can hit that range. 10X is of course very aggressive. It's oftentimes maybe more of a four to six times improvement. But that's the performance that makes us really excited, is when we can get these huge gains, not just go from 70 to 90 tokens.Stacking Optimizations: NVFP4, Speculation, and DisaggregationAli [00:37:19]: It's also, like, hardware dependent. Like, ifPhilip [00:37:20]: YeahAli [00:37:20]: If you have a thing where you're serving it on just, like, a node of H100s and then you throw, like, you shard the model across, like, four nodes of B200s. Like, you can definitely increase the speed with just throwing more hardware at it. Like, normalizing for the same exact hardware and the same number of GPUs.Philip [00:37:35]: Yeah. Then you're looking at, like, a two to 4X improvementAli [00:37:38]: Right. RightPhilip [00:37:38]: Depending on the inference optimizations. So yeah, it's. Some of it's, what's the call, and some of it's who's the driver.Vibhu [00:37:46]: If you break down the two to 4X, say the example is run GLM-5.2Ali [00:37:51]: YeahVibhu [00:37:51]: On B200sAli [00:37:53]: YeahVibhu [00:37:53]: Single node, right? What's, like, the cost trade-off for effort to get, like, the last bit of juice out versus what should people just think of, right?Ali [00:38:01]: Spectre quantization. Yeah.Vibhu [00:38:03]: Spectre quantization.Ali [00:38:04]: That's, that's, that's like 95%. LikeVibhu [00:38:06]: And how far does that get you? And how easy is that for the average person to do? So say right I wanna throw the weights of GLM-5.2 on a node of B200s, how easy is it to find speculative decoder- decoder model or already quantized model? How much work goes into it?Philip [00:38:23]: If you're doing it up front, it's quite a lot of work. If you're doing it today, there's going to be people who have published things that you can just, you can just grab some NVFP4 weights. You can grab a speculator. Yeah, if we're thinking about, like, what are the 2Xs we're stacking, going from, BF16 to NVFP4 is, it's not quite a 2X, right? It's like. I think it's about, like, 30 to 40%, from 16 to 8, and then another 30 to 40% multiplied from, 8 to 4. So that doesn't quite get you a 2X, but, like, roughly a 2X. Speculator, roughly a 2X. Disagg on top of that if you're able to get enough hardware and put enough traffic through it, another roughly a 2X. And then you add in some, double-digit percent increase from having just a better runtime with, the latest kernels and stuff behind it. And that's how it stacks up.Ali [00:39:21]: YeahPhilip [00:39:21]: So building each of those, like, building the, quantized weights is, for someone who really knows what they're doing, hours to days of work. Building the speculator, again, like, hours to days of work. And the, disagg setup, hours to days. Well okay, but like once you haveAli [00:39:39]: Once set up. Once set up. YeahPhilip [00:39:40]: Yeah, getting disagg working for the first time, I'm saying, of course, is very difficult.Philip [00:39:44]: The marginal implementationAli [00:39:48]: Like, if you're just grabbing, like if you are a person, like just a normal consumer who has access to, like, a node of B200s and you're wondering, “How can I just host it myself?” You don't need to quantize the model yourself. There's always gonna be, like, an open source quantized checkpoint. NVIDIA's gonna push one out if no one else does. You. Usually, the providers will have their own spec dec that they've trained as well. You don't need to train your own spec dec. You can just use that as well.Philip [00:40:09]: Yeah. Like, GLM-5.2 has its own MTP.Ali [00:40:13]: Right. Right.Vibhu [00:40:14]: What's multi token prediction?Philip [00:40:15]: Yes.Ali [00:40:16]: I'm justVibhu [00:40:16]: Can you explain that?Ali [00:40:16]: I'm just an expert.Ali [00:40:18]: I can do it for you in case I get it wrong?Vibhu [00:40:20]: No.Vibhu [00:40:21]: Yeah, you should correct if we're wrong, but their multi-token prediction can be used for self-speculative decoding.Ali [00:40:27]: I'm not sure. I'm not gonna correct that.Vibhu [00:40:28]: Okay. I'm semi-confident in thatAli [00:40:30]: Okay. YeahVibhu [00:40:30]: But someone can check. But it's useful to paint the story of, okay, not just the average person, but say a company wants to switch from serverless inference I wanna throw this up on. I wanna rent some GPUs, throw it up. These are the steps you take to do significantly faster than just put it behind vLLM.Ali [00:40:48]: Right.Vibhu [00:40:49]: I was waiting for a mention of Dynamo.Vibhu [00:40:51]: I feel like, that's supposed to be the baseline that you measure against.Dynamo, KV Routing, and Disaggregation ToolkitsPhilip [00:40:55]: I would think of Dynamo as less of a box system and more of a toolkit for building with. So when we talk about doing aware routing, when we talk about doing KV offloading, when we talk about doing, PD disaggregation, Dynamo fundamentally is. By the way, Dynamo is an open source library from NVIDIA.Ali [00:41:17]: We've done a pod with KylePhilip [00:41:18]: OkayAli [00:41:19]: Kyle Cranin.Philip [00:41:19]: Cool. So then your listeners know then that it supports all the different inference frameworks. And it is multi hardware, which is interesting.Ali [00:41:28]: But it's just a router, it's not like an optimizer layer.Philip [00:41:30]: Yeah. All it does, like, what Dynamo is good at, it is a library for moving information around your cluster, around your hardware. So if you have, KV cache on one place and you need it to be somewhere else, Dynamo coordinates NIXL for you to move that around.Philip [00:41:49]: That doesn't mean that, like, out of the box, you just say, “Pip install Dynamo,” and then you get, like, a massive performance speed up. It's more of a developer toolkit.Ali [00:42:01]: Yeah. I would have said it would. It comes with a set of defaults that you can then swap out.Philip [00:42:06]: It does. If the industry at large, I think, was, like, rolling out all of these deployments, standard, then I think it would be, like, a credible baseline. But, we've got to, we've got to benchmark against, like, what we're seeing in the wild.Speculative Decoding Methods: Medusa, EAGLE, n-Gram, and Spec-SpecVibhu [00:42:23]: I did wanna talk a little bit more about PD disagg, because that is probably, like, number three after quantized and speculative decoding. In your book though, I was just gonna pull out the book.Philip [00:42:31]: Yeah.Vibhu [00:42:32]: Like section 522 on Medusa, 523 on EAGLEPhilip [00:42:35]: YeahVibhu [00:42:36]: 524 on gram.Philip [00:42:37]: It's 55, would be disaggregationAli [00:42:42]: Yeah. Well, no, I just wanted to dwell a little bitPhilip [00:42:44]: YeahAli [00:42:44]: The other. Like, so what do you choose to include? What do you choose to not to include? Because there was all these other techniques.Philip [00:42:51]: Yeah.Ali [00:42:51]: Are these still relevant? Because I think they came out, like, a year and a half ago maybe.Vibhu [00:42:55]: Medusa is quite old.Philip [00:42:56]: Yeah, Medusa's old.Ali [00:42:58]: It was old.Vibhu [00:42:58]: But is it in the book as a good, here'sPhilip [00:43:01]: BaselineVibhu [00:43:01]: Baseline vanilla understand it?Philip [00:43:02]: Like you should know this.Vibhu [00:43:03]: Like I read the paper, I'm like, “ it makes so much sense.”Philip [00:43:05]: Yeah.Philip [00:43:05]: So with the book, I had a couple goals. One was to give people just a working vocabulary for the space as a whole, and the other was to give them some intuition about how each of these techniques works. As I mentioned in my AI Engineer talk, which is the first public addendum to this, the speculation space has moved much faster than everything else. So yeah, even at the time that I wrote the book Medusa, I very much included as a way for people to understand how the space evolved rather than what the most modern technique is. And now of course, there's DFlash, dSpark. There's, there's newer techniques even than EAGLE, although EAGLE is still very commonly used.Ali [00:43:51]: SpecSpecta.Philip [00:43:52]: Yes. Speculative decoding.Vibhu [00:43:54]: What canAli [00:43:56]: Oh, it's a paper by Tri Dao and it's like, it's doing speculative decodingVibhu [00:44:00]: HuhAli [00:44:01]: For the speculative decoder.Philip [00:44:02]: Oh, in spec- oh my God.Ali [00:44:02]: It's literally just an another. It's like, yeah, that's the most simple way to explain it, and it seems like he got trivial speed ups there. But it seems that the complexity with training, it's almost like in our mind at least, it's almost as complex as training GANs. Like it's like a very delicate balance and oftentimes you, it's just but yeah, it's literally speculative decoding on speculative decoding.Vibhu [00:44:21]: Speculative.Ali [00:44:22]: Yeah. We saw this paper.Vibhu [00:44:24]: It's interesting, right?Ali [00:44:24]: Yeah.Vibhu [00:44:24]: I wouldn't even expect it to be very particular to train, I wouldAli [00:44:29]: Right.Vibhu [00:44:29]: The naive part of me is like, okay, train speculative decoder.Ali [00:44:32]: But like, and it makes sense, like the whole idea of speculative decoding is you. It's like, it's like almost like the iPhone auto predict version but for a normal model, right? Like you're just, you're just, generating three tokens and you're like, okay, I'll do prefill on them. And so you save those three turns for your original model. Now your speculative decoder is doing three turns of auto regression, so why not just have an even smaller model?Ali [00:44:53]: The other question there is what are the size of speculators? So say forPhilip [00:44:58]: Right. It's like a billion parameters.Ali [00:45:01]: Like for MiniMax, it's. Yeah. It's like one layer. It's like one 60th of the original model usually.Philip [00:45:06]: Yeah. I think we should do a paper when we get back to the office.Philip [00:45:10]: SpeculativeAli [00:45:11]: SpeculativePhilip [00:45:11]: Decoding.Ali [00:45:13]: No, it's, it does seem like how, when do you stop? But then it also seems like if you're able to train spec-spec decode for instance, right? Like if you're able to have a small model that is accurately predicts what the intermediate speculator is gonna predict, that is able to predict what the original target model's gonna predict, then why not just use that smallest model directly, right?Vibhu [00:45:34]: Yeah. This isAli [00:45:35]: Like it seems likeVibhu [00:45:35]: Adjacent to the routing problem.Ali [00:45:36]: Right.Vibhu [00:45:36]: Yeah.Ali [00:45:36]: Right.Philip [00:45:37]: The thing with speculators is one of the practical constraints on using them is that you do have to run a small model on the same hardware that you're running the big model on. There is a orchestration and resource competition problem inherent in that, and that is one of the constraints on speculation in general, is that draft tokens cost resources to create and cost software complexity to manage. And so if you have like infinitely recursive speculators, you add in quite a bit of that complexity on the actual implementation within the inference engine as well, not just in the training process.Vibhu [00:46:17]: I was gonna say, I would wonder if you could do similar, like distillation and pruning of, it's the same thing, it's just a model. Can we not just distill a lot of the weights, quantize the speculator, out of my domain? The question that also comes up is, this is all for big server workloads, right? How much of this applies to, say I have this MacBook, I wanna run Gemma really efficiently. Similar problems, not the same?Local AI vs. Data Center InferencePhilip [00:46:45]: Pretty different. I talked to Selo, about this on his podcast a couple weeks ago. The difference between inference engineering for the data center and for production workloads versus inference engineering for local AI, is that we start with fundamentally like different constraints and different goals. With local AI, it's how do I fit this model onto my hardware and then make it less dumb? And with data center influence, it's how do I load this model and then make it less slow? And we care about less dumb, and they care about less slow. But the local AI inference engineering ecosystem, I think has a lot for us to learn from in the data center space. They are experts in various forms of quantization, including dynamic quantization that we just don't touch, in the pruning, in the distillation, in the, layer removal. There'Ali [00:47:42]: Layer removal matters less.Philip [00:47:43]: Yeah. There'Ali [00:47:44]: No one loves pruning really.Philip [00:47:45]: Yeah. Well, but the, but they doVibhu [00:47:46]: Which is surprising, right? But that's, that's a whole different thingPhilip [00:47:48]: Just to fit something on the laptop.Ali [00:47:50]: Right.Philip [00:47:50]: So yeah, it's a, it's an interesting, it's an interesting space. Not necessarily that like their techniques make sense for us to do in the data center, because we have different resources and different goals, but more that the process as well as the openness of that field is something to, admire.Ali [00:48:12]: Yeah. Like to your point, like, certain optimizations that would. Like for instance, Turbo Quantum Sharper, like it made such huge hype on that and we did like a whole deep dive on Twitter and like said, what is it? How does it work? Why is it good or not? And it took off and it was implemented on local devices because your memory bandwidth is so slow on like a MacBook, for instance. But try putting the same thing on like an NVIDIA GPU on a B200 Turbo quant would not be. Like, it would not be used. Like, NVIDIA - Like, NVIDIA made it clear that this is not a good optimization, and we've seen it firsthand where the overhead of doing dequantization, quantization of, in the kernel itself with turbo quant kernel, each end is much slower than the time that you save from doing the bandwidth. ‘Cause on the B200s, you have like 3.5 terabytes per second. You don't need decrease the storage that much. You don't need to do, FP4 KV cache. You don't need to use a requant. There's, there's, there's better optimizations to be made. But on Edge devices, it's extremely important, it's extremely useful. So, seems to be, like, different optimizations there, but then they're all uniquely combined with like all you wanna quantize the model, you wanna do speculative decoding, like certain common prefixes with bothPhilip [00:49:18]: Principles.Ali [00:49:19]: Yeah, exactly. Exactly. Exactly.Philip [00:49:20]: They also do a lot of work on, model parallelism, especially over, heterogeneous topology, where you have, some sparks and they are wired together with, Ethernet, DGX sparks.Ali [00:49:35]: Yeah, this is the Exo Labs guys.Philip [00:49:36]: Yeah. You have, a nu

Happy August! I'm not sure if y'all have watched 'Strung' yet, the psychological thriller on Peacock?! If you haven't, this episode isn't for you. Now, if you have, step on up. I have some real deep thoughts about this film, especially because TP was a producer. How can he produce this quality, but give us cookie cutter crap all the time?!? Tap in...let's get real!

VOV1 - Phòng Cảnh sát điều tra tội phạm về ma túy, Công an TP.HCM vừa triệt phá một đường dây sản xuất, pha chế, mua bán trái phép ma túy quy mô lớn, ngụy trang dưới dạng thuốc lá điện tử Pod Chill, bắt giữ 37 đối tượng liên quan.

Terms of Service with Future Caucus Two Minnesota lawmakers, one Democrat and one Republican, on what public service costs and what it took to keep going after tragedy. Terms of Service is a new limited series from Future Caucus and TP&R, hosted by Future Caucus CEO Layla Zaidane. People run for state legislature to serve their communities, then find the fine print. Recorded at Future Summit, this first conversation brings together two young Minnesota representatives, Andy Smith (D) and Isaac Schultz (R), on political violence, pay, staffing, and what it takes not just to serve but to stay. This series is a partnership between Scan Media and Future Caucus. Executive Producers: Future Caucus and Layla Zaidane. Calls to Action ✅ Leave a rating and review: lovethepodcast.com/politicsandreligion ✅ Subscribe on Substack: coreysnathan.substack.com ✅ Watch and subscribe on YouTube: youtube.com/@politicsandreligion Key Takeaways A House split 67 to 67. An evenly divided chamber meant building trust across the aisle before any bill had a chance. Relationships came first, legislation second. Coming together after political violence. The assassination of Speaker Melissa Hortman and her husband Mark, and the wounding of a colleague, changed how these two think about safety and each other. Shared grief pulled them closer across party lines. The fine print of serving. Pay that runs about $10,000 below the average worker, little to no staff, and months living out of a hotel away from family. Both still call it worth doing. About Our Guests Rep. Andy Smith (D) represents Rochester, Minnesota, is in his second term, and runs a used bookstore with his wife. Rep. Isaac Schultz (R) represents a rural district, is in his second term, and works as an auctioneer and small business owner. Host Layla Zaidane is president and CEO of Future Caucus. Links and Resources Watch on YouTube: youtube.com/watch?v=Nkbhx-o4FY0 Future Caucus: futurecaucus.org Connect with us Substack: coreysnathan.substack.com YouTube: youtube.com/@politicsandreligion Instagram, Threads, Bluesky, X, Facebook, TikTok, LinkedIn: @coreysnathan Partners Proud to be part of The Democracy Group, a network of podcasts examining what's broken in our democracy and how we can work together to fix it. Clarity, charity, and conviction can live in the same room. Yes, really.

A review of the week's major US international tax-related news. In this edition:  US Senate in session additional week, House adjourned -- IRS releases proposed rules on OBBBA repeal of 'one-month deferral election' – IRS officials address transfer pricing AI concerns, future TP guidance – UN releases draft Framework Convention on Intl Tax Cooperation, two early protocols.

TP.HCM đặt mục tiêu đi bộ 300-500m là tới xe buýt, metro; Khai trừ khỏi Đảng 5 cán bộ cao cấp trong đó có một thứ trưởng; Khi gen Z kế thừa giá trị truyền thống.

VOV1 - Những bức ảnh bị phai mờ sau hơn 50 năm nằm sâu trong lòng đất vừa được Đội K72 cẩn trọng thu thập tại xã Minh Đức, TP. Đồng Nai và nhờ các bạn trẻ phục dựng. Từ những di ảnh vừa được hồi sinh, một hành trình đong đầy hy vọng đang mở ra là tìm lại tên tuổi và đưa các anh trở về với gia đình.Những di vật biết nói dưới lòng đấtTrong đợt tìm kiếm, quy tập hài cốt liệt sĩ tại lô cao su 97, thuộc nông trường Cao su Bình Long, xã Minh Đức, TP. Đồng Nai (trước là huyện Hớn Quản, tỉnh Bình Phước), các cán bộ, chiến sĩ Đội K72 thuộc Bộ Chỉ huy Quân sự TP. Đồng Nai đã có những giây phút nghẹn ngào.Tại một hầm mộ quy tập được 4 hài cốt liệt sĩ, bên cạnh cây bút khắc dòng chữ “Tiến Quy”, lực lượng chức năng phát hiện một bức ảnh tập thể. Ở một hầm mộ khác có 3 hài cốt, trong chiếc ví đã sờn cũ của người nằm xuống cũng cất giữ một tấm di ảnh cá nhân.Nằm dưới lòng đất hơn nửa thế kỷ, các tài liệu, giấy tờ và ảnh chụp đều đã bị mục rã, phai mờ. Bằng tình cảm và sự tri ân sâu sắc, các cán bộ, chiến sĩ Đội K72 đã vô cùng tỉ mỉ, nâng niu từng mảnh di vật để tránh bị rách hỏng, đồng thời lập tức chụp lưu lại hình ảnh trước khi không khí làm hư hại thêm.Chia sẻ về khoảnh khắc đặc biệt này, Đại úy Nguyễn Vũ Huy, Phân đội trưởng Phân đội 2, Đội K72 nghẹn ngào: "Khi đào tìm mà phát hiện hài cốt và các di vật của các liệt sĩ, cán bộ, chiến sĩ chúng tôi bồi hồi, xúc động ở trong đó. Tự bảo nhau làm việc thực là tỉ mỉ, nhẹ nhàng, di vật và hài cốt đem về cho thân nhân liệt sĩ nhận dạng. Đối với những hình ảnh vừa rồi, tôi hi vọng là truyền thông rộng rãi để thân nhân kịp thời nắm bắt và nhận dạng được liệt sĩ của mình."Hồi sinh di ảnh, nối lại nhịp cầu ký ứcNgay sau khi tiếp cận và lưu giữ các hình ảnh, Đội K72 đã nhanh chóng phối hợp cùng các cộng tác viên, những bạn trẻ giàu tâm huyết để tiến hành phục dựng.Từ những tấm hình mờ nhòe của thời gian, qua công nghệ và sự trân trọng của thế hệ trẻ, hình ảnh các chiến sĩ năm xưa đã trở nên rõ nét.Tấm ảnh tập thể được tìm thấy dưới hầm mộ có 4 liệt sĩ

[English as below]Tuần này, cùng Vietnam Innovators & host Hảo Trần ghé thăm Trung tâm R&D của Opella tại TP.HCM để trò chuyện cùng bà Carol Anne Stewart, Chủ tịch Khu vực Châu Á - Thái Bình Dương, Trung Đông và Châu Phi (AMEA). Trong bối cảnh Opella lựa chọn Việt Nam làm trung tâm R&D duy nhất cho toàn khu vực AMEA, 1 trong 4 trung tâm toàn cầu, buổi đối thoại mở ra góc nhìn sâu sắc về chiến lược nâng tầm vị thế y tế của Việt Nam trên bản đồ quốc tế.Xuyên suốt cuộc trò chuyện, bà Carol Anne Stewart sẽ giới thiệu về “FMCH” (Fast-Moving Consumer Healthcare) - sự kết hợp giữa nền tảng khoa học nghiêm ngặt của ngành dược và sự tiện lợi, dễ tiếp cận của ngành hàng tiêu dùng nhanh (FMCG). Từ việc đơn giản hóa hành trình tự chăm sóc sức khỏe, nâng cao nhận thức cộng đồng, đồng hành cùng các dược sĩ địa phương cho đến bài toán ứng phó với tin giả y tế trên mạng xã hội, tập podcast này sẽ mang đến bức tranh toàn cảnh về cách Opella đang hiện thực hóa tầm nhìn đưa Việt Nam dẫn đầu về đổi mới sáng tạo y tế trong 10 năm tới.—This week, join Vietnam Innovators and host Hao Tran as we visit Opella's R&D center in Ho Chi Minh City to chat with Ms. Carol Anne Stewart, President of Asia-Pacific, Middle East, and Africa (AMEA) at Opella. With Opella establishing Vietnam as its sole R&D hub for the entire AMEA region, 1 of 4 globally, this conversation offers deep insights into the strategic moves elevating Vietnam's healthcare position on the global map.Throughout the episode, Carol Anne Stewart introduces the concept of "FMCH" (Fast-Moving Consumer Healthcare) - a breakthrough concept that combines the rigorous science of pharmaceuticals with the accessibility and convenience of fast-moving consumer goods (FMCG). From making self-care simpler, improving public health literacy, and empowering local pharmacists, to tackling medical misinformation on social media, this episode paints a comprehensive picture of how Opella is realizing its 10-year vision to position Vietnam as a leader in healthcare innovation.-Listen to this episode on ⁠⁠⁠⁠Youtube⁠⁠⁠⁠And explore many amazing articles about the pioneers at: ⁠⁠⁠⁠https://vietcetera.com/vn/bo-suu-tap/vietnam-innovator⁠⁠⁠⁠-Feel free to leave any questions or invitations for business cooperation at ⁠⁠⁠⁠team@vietcetera.com

VOV1 - Trước những diễn biến phức tạp của thị trường năng lượng thế giới, Cục Quản lý và Phát triển thị trường trong nước (Bộ Công Thương) vừa ban hành công văn số 2371 yêu cầu các địa phương tăng cường kiểm tra, giám sát chặt chẽ hoạt động kinh doanh bán lẻ xăng dầu.Ghi nhận tại các thành phố lớn như Hà Nội và TP.HCM cho thấy, một số đại lý bán lẻ đang gặp khó khăn trong việc tiếp cận nguồn hàng do chiết khấu thấp và tiến độ giao hàng từ các thương nhân đầu mối bị chậm. Để bảo đảm hoạt động, một số cây xăng buộc phải điều tiết lượng bán ra. Tuy nhiên, cơ quan quản lý khẳng định: tình trạng này chỉ mang tính cục bộ tại một số thời điểm do nghẽn khâu phân phối, không phản ánh việc thiếu hụt nguồn cung trên diện rộng.Nhằm ngăn chặn triệt để hành vi găm hàng, tạo xáo trộn thị trường, Bộ Công thương chỉ đạo lực lượng Quản lý thị trường tăng cường kiểm tra giám sát chặt hoạt động kinh doanh xăng dầu.- Lực lượng chức năng liên tiếp triệt phá, khởi tố các đường dây sản xuất, kinh doanh hàng giả tại TP.HCM, Hưng Yên và Bắc Ninh; Lạng Sơn: Tạm giữ lượng lớn hàng nhập lậu.

VOV1 - Nhân kỷ niệm 79 năm Ngày Thương binh - Liệt sỹ (27/7/1947 - 27/7/2026), Công ty Nhiệt điện Phú Mỹ đã tổ chức nhiều hoạt động thiết thực, thể hiện đạo lý “Uống nước nhớ nguồn”, “Đền ơn đáp nghĩa”, tri ân Mẹ Việt Nam Anh hùng, gia đình chính sách, những người có công với cách mạng.Ngày 25/7, phối hợp cùng với UBND phường Tân Thành, TP.HCM, ông Lê Vũ Trung - Phó Giám đốc, Chủ tịch Công đoàn Công ty Nhiệt điện Phú Mỹ cùng Ban Nữ công, Đoàn Thanh niên đã tổ chức thăm hỏi 30 gia đình chính sách, người có công với cách mạng và Mẹ Việt Nam Anh hùng ở phường này.Thay mặt cán bộ nhân viên Công ty, ông Lê Vũ Trung bày tỏ lòng biết ơn sâu sắc đối với những hy sinh, cống hiến to lớn của các gia đình chính sách, người có công với cách mạng; mong các thương binh, bệnh binh cùng gia đình luôn mạnh khỏe, sống vui và tiếp tục là những tấm gương sáng cho các thế hệ sau.Đoàn tặng quà cho các gia đình chính sách và người có công trên địa bàn Phường Tân Thành - TP.HCM

Alright Par Pals

Patsy has given us numerous hits over the years. A simple compilation of those treats, with a TP spin on it of course. Fulljoy!

VOV1 - Chủ tịch Quốc hội Trần Thanh Mẫn vừa ký ban hành Pháp lệnh sửa đổi, bổ sung một số điều của Pháp lệnh Ưu đãi người có công với cách mạng. Pháp lệnh sẽ có hiệu lực từ ngày 1/1/2027.Pháp lệnh sửa đổi, bổ sung một số điều của Pháp lệnh Ưu đãi người có công với cách mạng vừa ban hành có nhiều chính sách mới hết sức quan trọng, thể hiện trách nhiệm, sự quan tâm, tri ân sâu sắc của Đảng, Nhà nước, nhân dân đối với những người đã hy sinh xương máu bảo vệ nền độc lập, tự do cho Tổ quốc và xây dựng, bảo vệ Tổ quốc, làm nghĩa vụ quốc tế. Một trong những nội dung quan trọng của Pháp lệnh là sửa đổi quy định về công nhận liệt sĩ đối với thương binh hoặc người hưởng chính sách như thương binh chết do vết thương tái phát. Cùng với đó là bổ sung đối tượng được công nhận là người có công và chế độ, chính sách ưu đãi người có công với cách mạng - Nhiều điểm mới trong Pháp lệnh sửa đổi, bổ sung một số điều của Pháp lệnh Ưu đãi người có công với cách mạng vừa ban hành. Pháp lệnh có hiệu lực từ ngày 1/1/2027.-  Các tỉnh, thành phố dự kiến sẽ điều chuyển và sắp xếp lại trên 20 nghìn cán bộ quản lý giáo dục, trong đó hơn một nửa sẽ được bố trí làm giáo viên trực tiếp đứng lớp- Người dân trong diện giải tỏa để phục vụ cải tạo rạch Văn Thánh ở TP.HCM: mừng vì môi trường sạch nhưng lo vì sinh kế bấp bênh tại nơi ở mới. - Mưa lớn ở khu vực xã Mường Than của tỉnh Lai Châu tiếp diễn khiến Quốc lộ 32 và Quốc lộ 279 đoạn qua đây tiếp tục bị chia cắt.- Hạ viện Mỹ thông qua nghị quyết hạn chế quyền tiến hành chiến dịch quân sự tại Iran-  Ngân hàng Trung ương Châu Âu giữ nguyên các mức lãi suất chủ chốt, đồng thời cảnh báo "gián đoạn nguồn cung năng lượng" tái diễnChủ tịch Quốc hội Trần Thanh Mẫn

VOV1 - Từ thông tin do Cơ quan Điều tra An ninh Nội địa Hoa Kỳ (HSI) cung cấp, Cục Quản lý và Phát triển thị trường trong nước (Bộ Công Thương) đã phát hiện một cơ sở tại TP.HCM sản xuất gần 50.000 đôi giày mang dấu hiệu giả mạo các nhãn hiệu Nike, Nike Air và Air Jordan để xuất khẩu sang Hoa Kỳ.

VOV1 - Góp ý xây dựng dự thảo Luật Kinh doanh bất động sản (sửa đổi), Hiệp hội Bất động sản TP. Hồ Chí Minh đề xuất nới thời điểm chủ đầu tư được nhận tiền đặt cọc khi bán nhà ở hình thành trong tương lai, nhằm giảm áp lực vốn cho doanh nghiệp.Theo dự thảo, chủ đầu tư chỉ được thu tiền đặt cọc không quá 5% giá bán hoặc giá thuê mua bất động sản khi nhà ở, công trình xây dựng đã đủ điều kiện đưa vào kinh doanh. Tuy nhiên, Hiệp hội Bất động sản TP. Hồ Chí Minh kiến nghị cho phép chủ đầu tư được thu tiền đặt cọc khi dự án đã được chấp thuận chủ trương đầu tư, hoặc đã có thiết kế cơ sở được thẩm định, và có một loại giấy tờ về quyền sử dụng đất. - Đề xuất nới thời điểm nhận tiền đặt cọc để giảm áp lực vốn- Hơn 111.000 tỷ đồng trái phiếu doanh nghiệp sắp đáo hạn- Nhà đầu tư có thể bị phạt đến 100 triệu đồng nếu giao dịch tài sản mã hóa trái quy định

VOV1 - Theo Ngân hàng Nhà nước Chi nhánh Khu vực 2, trong quý II/2026, lượng kiều hối chuyển về TP.HCM qua các tổ chức tín dụng và tổ chức kinh tế đạt 2,032 tỷ USD, trong đó gần một nửa là từ khu vực Châu Á.Cụ thể, trong 2,032 tỷ USD kiều hối chuyển về TP.HCM quý II/2026, khu vực châu Á tiếp tục là nguồn kiều hối lớn nhất với hơn 1,002 tỷ USD, chiếm 49,3% tổng lượng kiều hối và tăng 9,8% so với quý trước.So với quý I/2026, kiều hối từ châu Á tăng 9,8%, trở thành động lực chính giúp tổng lượng kiều hối tăng trưởng dương. Trong khi đó, kiều hối từ châu Âu giảm 3,3%, châu Mỹ giảm 4,3% và châu Đại Dương giảm 12,1%. Riêng châu Phi tăng 15,3%, nhưng do quy mô nhỏ nên không tác động đáng kể đến tổng doanh số.Lũy kế 6 tháng đầu năm 2026, lượng kiều hối chuyển về TP.HCM đạt 4,037 tỷ USD, giảm 22,8% so với cùng kỳ năm 2025 và giảm 21% so với 6 tháng cuối năm 2025.- Gần một nửa lượng kiều hối chuyển về Tp.HCM là từ khu vực Châu Á.- Mặt bằng lãi suất huy động vẫn ở mức cao - tăng trưởng tín dụng vẫn cao hơn huy động vốn.Gần một nửa lượng kiều hối chuyển về TPHCM từ khu vực Châu Á.(Ảnh minh họa)

VOV1 - Những ngày này, Công viên Lê Thị Riêng (TP.HCM) trở thành điểm hẹn của lòng tri ân. Dòng người lặng lẽ nối dài, mang theo những lẵng hoa, nén hương và sự thành kính để tưởng nhớ các anh hùng liệt sĩ đã hy sinh trong cuộc Tổng tiến công và nổi dậy Xuân Mậu Thân 1968.

VOV1 - Tổng công ty Điện lực TP.HCM và Becamex Group vừa ký kết Quy chế phối hợp trong công tác quy hoạch, đầu tư, quản lý vận hành lưới điện, kinh doanh điện và phát triển hạ tầng năng lượng. Việc ký kết tạo nền tảng để hai bên nâng cao chất lượng cung cấp điện cho các KCN, phục vụ thu hút đầu tư.Theo Quy chế phối hợp được ký kết, hai đơn vị sẽ phối hợp toàn diện trong công tác quy hoạch và đầu tư lưới điện phục vụ các khu công nghiệp - đô thị - dịch vụ do Becamex đầu tư; chia sẻ dữ liệu vận hành hệ thống SCADA/DMS; phối hợp kinh doanh điện và triển khai các chương trình điều chỉnh phụ tải (DR).Lễ ký kết (ảnh: D.Đ)

VOV1 - Từ đầu năm đến nay, Tổng công ty Điện lực TP.HCM đã nhanh chóng thực hiện nhiều giải pháp nhằm đồng bộ năng lực quản lý, hạ tầng lưới điện và chất lượng cung cấp điện năng. Ngành điện thành phố vượt qua giai đoạn cao điểm mùa khô, đảm bảo cung cấp điện an toàn, liên tục, phục vụ cho các mục tiêu phát triển kinh tế - xã hội của "siêu đô thị" với chất lượng dịch vụ không ngừng nâng cao.Sản lượng điện nhận toàn Tổng công ty trong 6 tháng đạt hơn 30.139 triệu kWh, tăng 7,5%% so với cùng kỳ; Sản lượng điện thương phẩm 6 tháng đạt 29.358,4 triệu kWh tăng 7,4% so với cùng kỳ.Kết quả thực hiện các chỉ số về độ tin cậy cung cấp điện của lưới điện phân phối trong 6 tháng: SAIFI (số lần mất điện bình quân của khách hàng) 0,56 lần; SAIDI (thời gian mất điện bình quân của khách hàng) 52,39 phút.Tổng công ty đã thực hiện 1.286 phương án (tương ứng 1.243/1.453 tuyến dây) đóng kết mạch vòng trung thế; Tổ chức thi công bằng live-line là 10.793 lượt, tăng 864 lượt so với cùng kỳ năm 2025.Điện lực TP.HCM duy trì 100% TBA 110kV vận hành hiệu quả theo mô hình không người trực/điều khiển từ xa, 100% lưới điện trung thế công cộng vận hành tự động.Đến nay, tổng số khách hàng sử dụng điện toàn TP.HCM là 3.952.490, tăng 29.325 khách hàng so với cuối năm 2025.Tổng công ty đã cung cấp 100% các loại hình dịch vụ trực tuyến cấp độ 4. Tỷ lệ khách hàng thanh toán điện tử tiền điện đạt 100% về khách hàng và tương ứng 100 % giá trị doanh thu.../.PV, CTV Kỳ Diệu/VOV TPHCMChuyển đổi số mạnh mẽ trong ngành điện TP.HCM

VOV1 - Công an Thành phố Hồ Chí Minh vừa triệt phá thành công một đường dây sản xuất, buôn bán phụ gia thực phẩm giả tại vùng giáp ranh với tỉnh Tây Ninh, do đối tượng Nguyễn Văn Đại, sinh năm 1987, cầm đầu. Thủ đoạn của nhóm này là thu mua nguyên liệu trôi nổi gồm: bột ngọt, hạt nêm, sau đó đóng gói vào các bao bì giả thương hiệu nổi tiếng rồi phân phối ra thị trường. Nhóm đối tượng hoạt động khép kín và liên tục thay đổi địa điểm để né tránh lực lượng chức năng. Qua khám xét, cơ quan chức năng đã thu giữ gần 150 kg bột ngọt giả, hơn 50 kg hạt nêm giả cùng nhiều máy móc đóng gói. Bước đầu xác định, các đối tượng đã tiêu thụ hơn 1,1 tấn bột ngọt và 300 kg hạt nêm trôi nổi, nguy cơ đe dọa trực tiếp đến sức khỏe người tiêu dùng. Hiện Cơ quan Cảnh sát điều tra đã khởi tố vụ án, khởi tố bị can và bắt tạm giam 5 đối tượng liên quan để tiếp tục mở rộng điều tra, xử lý nghiêm theo quy định của pháp luật.Phòng Cảnh sát kinh tế, Công an tỉnh Cà Mau vừa kiểm tra, phát hiện vụ sản xuất, buôn bán đường cát giả quy mô lớn tại các kho hàng thuộc Công ty TNHH Thương mại Thu Ngân Bạc Liêu, do bà Châu Bích Ngà làm Giám đốc. Tại thời điểm kiểm tra, lực lượng chức năng phát hiện 10 đối tượng đang dùng máy trộn đường cát trắng, sau đó đóng gói vào các bao bì giả mạo thông tin của doanh nghiệp khác. Tại hiện trường, cơ quan chức năng đã thu giữ hơn 1.500 bao đường nguyên liệu, hơn 900 bao đường thành phẩm, hàng trăm bao bì in giả nhãn mác cùng nhiều máy móc, dụng cụ và con dấu phục vụ cho việc làm giả. Hiện toàn bộ tang vật đã bị tạm giữ để tiếp tục xác minh, làm rõ và xử lý nghiêm theo quy định của pháp luật.Tải vềPlayMuteRemaining Time -6:01Các sản phẩm phụ gia thực phẩm giả nhãn hiệu bị phát hiện - Ảnh: Công an TP.HCM

Something a little different this week. This is a Village Squarecast episode, shared here in full, and you'll hear Corey host the top before turning it over to Liz Joyner, founder and president of The Village Square. Steve Seibert moderates. The guest is Dr. Yuval Levin, director of social, cultural, and constitutional studies at the American Enterprise Institute, founder and editor of National Affairs, and author of American Covenant: How the Constitution Unified Our Nation and Could Again. He has been on TP&R before. And we just loved hearing him with our good friends at the Village Square. The argument that makes this worth your ninety minutes: we don't disagree too much in this country. We disagree too little. We spend our days talking about each other instead of to each other, and the Constitution was built less to make us agree than to help us act together when we don't. In this conversation: ✅ Why the left and right at their best are both telling part of the truth, one a politics of formation, the other a politics of liberation ✅ Why unity was never meant to mean thinking alike ✅ How a system built to be slow and frustrating trades speed for legitimacy ✅ The case for growing the House by 150 members, and why it would only take a law ✅ Why term limits for Congress would hand the institution to lobbyists ✅ Martin Van Buren, party systems, and a tip of the cap to nobody's favorite president About the guest Yuval Levin serves as a senior editor at The New Atlantis and a contributing editor at National Review. He served on the White House domestic policy staff under President George W. Bush. He holds a master's and a PhD from the University of Chicago and is the author of seven books. More from The Village Square This conversation closes out UNUM: Democracy Reignited, The Village Square's series with Florida Humanities marking America at 250. Subscribe to Village Squarecast wherever you listen, and support their work at villagesquare.us/donate. Talkin' Politics & Religion Without Killin' Each Other Subscribe on Apple Podcasts or Spotify. Watch on YouTube. Leave a review at lovethepodcast.com/politicsandreligion. Clarity, charity, and conviction can live in the same room. Yes, really.

A compilation of the best music from Buju over the years. Definitely a blast down memory lane

[English as below]Việt Nam đang bước vào một giai đoạn tăng trưởng mới của ngành Hospitality, được thúc đẩy bởi sự gia tăng của khách quốc tế, những thay đổi về hạ tầng và làn sóng ứng dụng AI trong vận hành. Nhưng khi công nghệ ngày càng phát triển, điều gì sẽ tiếp tục tạo nên lợi thế cạnh tranh của một khách sạn cao cấp?Trong tập 399 của Vietnam Innovators (Tiếng Anh), host Hảo Trần trò chuyện cùng Niklas Wagner, General Manager tại New World Saigon Hotel, về những chuyển dịch đang định hình tương lai của ngành khách sạn tại Việt Nam. Cuộc trò chuyện mang đến góc nhìn từ người trực tiếp điều hành một trong những khách sạn hàng đầu tại TP.HCM, từ sự thay đổi trong các thị trường khách quốc tế, tác động của Sân bay Long Thành và Metro số 1, đến cách AI đang được ứng dụng để nâng cao hiệu quả vận hành và hỗ trợ đội ngũ mang đến trải nghiệm cá nhân hóa hơn.-Vietnam's hospitality industry is entering a new era of growth. Rising international arrivals, major infrastructure projects, and the rapid adoption of AI are reshaping how hotels operate and compete. But as technology becomes increasingly embedded in the guest experience, what will continue to set luxury hospitality apart?In episode 399 of Vietnam Innovators (English Edition), host Hảo Trần talks to Niklas Wagner, General Manager of New World Saigon Hotel, to discuss the forces shaping the future of hospitality in Vietnam.Drawing on his experience leading one of Ho Chi Minh City's premier hotels, Niklas shares his insights on shifting international travel demand, the long-term impact of Long Thanh International Airport and Metro Line 1, and how AI is helping hotels streamline operations while giving teams more time to deliver meaningful, personalized guest experiences.#NewWorldHotels #NewWorldSaigon-Listen to this episode on ⁠⁠⁠⁠Youtube⁠⁠⁠⁠And explore many amazing articles about the pioneers at: ⁠⁠⁠⁠https://vietcetera.com/vn/bo-suu-tap/vietnam-innovator⁠⁠⁠⁠-Feel free to leave any questions or invitations for business cooperation at ⁠⁠⁠⁠team@vietcetera.com