ข้ามไปที่เนื้อหา
เฉพาะ จากต้นทาง#การติดตั้งใช้งาน / วิศวกรรม
13 พฤศจิกายนวันศุกร์
  1. Hugging Face Blog58

    llama.cpp เปิดตัว v1.0.0 ใช้กฎ semantic versioning เพื่อความเสถียรของ API ฝั่ง downstream

    llama.cpp เปิดตัว v1.0.0 พร้อมกับ ggml ที่เปิดตัว v1.0.0 เช่นกัน ทั้งสองโปรเจกต์จะใช้การเปลี่ยนแปลงหมายเลขเวอร์ชันหลักเพื่อบ่งชี้การเปลี่ยนแปลงที่ไม่เข้ากันของ public C API และ ABI นับจากนี้ ทีมโปรเจกต์ระบุว่า เมื่อความต้องการ AI แบบโลคอลและความเป็นส่วนตัวเพิ่มขึ้น และแอปพลิเคชัน downstream มีมากขึ้น อินเทอร์เฟซไลบรารีที่เสถียรจึงกลายเป็นสิ่งสำคัญ ในอนาคตจะเข้มงวดมากขึ้นกับขอบเขตของการเปลี่ยนแปลงที่ทำลายความเข้ากันได้

  2. NVIDIA Newsroom22

    AI ช่วยทีมดูแลผู้ป่วยให้ผู้ป่วยได้รับการรักษาที่เหมาะสมได้เร็วขึ้นได้อย่างไร

    Synapsis เอนจินการให้เหตุผลทางคลินิกด้วย AI ของ Dyania Health อ่านบันทึก รายงาน และผลแล็บทุกฉบับในเวชระเบียนของผู้ป่วย เชื่อมโยงสิ่งที่พบซึ่งห่างกันหลายปีเพื่อระบุว่าผู้ป่วยรายใดต้องการการดูแลและเพราะเหตุใด โดยทุกสัญญาณสามารถตรวจสอบย้อนกลับไปยังแหล่งที่มาได้ ระบบทำงานบนการประมวลผลที่เร่งด้วย NVIDIA ภายในไฟร์วอลล์ของระบบสุขภาพเอง ข้อมูลผู้ป่วยจึงไม่เคยออกจากโรงพยาบาล Cleveland Clinic ใช้ระบบนี้ตรวจทานเวชระเบียนของผู้ป่วยเปลี่ยนลิ้นหัวใจเอออร์ติกกว่า 7,800 รายตั้งแต่ปี 2005 ถึง 2021 และสร้างแบบจำลองการพยากรณ์การเสื่อมของลิ้นหัวใจและความเสี่ยงต่อการกลับมารักษาซ้ำที่ 3, 5 และ 10 ปี

  3. Modal Blog40

    Modal Sandboxes ใช้ราคาแบบเบิร์สต์ ลดต้นทุนได้ 58% เมื่อเทียบกับการจอง

    Modal เปลี่ยนการคิดค่าบริการ Sandboxes ตามการใช้งานทรัพยากรจริง แทนการจองแบบคงที่ ทำให้แต่ละ Sandbox สามารถเบิร์สต์เกินค่าเริ่มต้นที่ขอไว้ 0.125 คอร์ และ 128 MiB และจ่ายเฉพาะสิ่งที่ใช้ในแต่ละวินาที ในตัวอย่างเอเจนต์เขียนโค้ด 20 นาที การเบิร์สต์มีค่าใช้จ่าย 8.4¢ ต่อ Sandbox-ชั่วโมง เทียบกับ 20.0¢ สำหรับการจองแบบคงที่ ประหยัดได้ 58% โดยค่าเริ่มต้น CPU สามารถเบิร์สต์ได้สูงถึง 16 คอร์เหนือค่าที่ขอ และหน่วยความจำไม่จำกัดเว้นแต่จะตั้งขีดจำกัดไว้

  4. Factory55

    Factory เปิดตัว Cyber Defense Network เชื่อมเครื่องมือความปลอดภัยเข้ากับ Security Factory

    Factory เปิดตัว Cyber Defense Network ซึ่งเป็นระบบนิเวศของบริษัทด้านความปลอดภัยไซเบอร์ที่ผลการตรวจพบจะไหลเข้าสู่ Security Factory เพื่อให้ Factory Droids สามารถตรวจสอบช่องโหว่ ดำเนินการแก้ไขโค้ด และตรวจสอบความถูกต้องของการแก้ไขผ่านการทดสอบ พันธมิตรผู้ร่วมก่อตั้ง ได้แก่ Snyk, Palo Alto Networks, Semgrep, Cogent, Casco, DepthFirst และ Detail เวิร์กโฟลว์ครอบคลุมสัญญาณจากเครื่องมือของพันธมิตร การคัดแยกช่องโหว่ที่เข้าถึงได้ และการแก้ไขอย่างต่อเนื่องซึ่งสร้างการแก้ไขที่พร้อมให้ทีมวิศวกรรมตรวจสอบและรวมเข้าโค้ด ขณะที่องค์กรยังคงใช้เครื่องมือและเวิร์กโฟลว์ด้านความปลอดภัยที่มีอยู่เดิม

  5. Databricks Blog36

    การตรวจจับการโจมตีที่ขับเคลื่อนด้วยข้อมูลรับรองบน Databricks ด้วยบันทึกการตรวจสอบแบบละเอียดและ Genie

    Databricks อธิบายรายละเอียดว่าการโจมตีที่ขับเคลื่อนด้วยข้อมูลรับรองเกิดขึ้นบนแพลตฟอร์มของตนอย่างไร และบันทึกการตรวจสอบแบบละเอียดพร้อม Genie สามารถตรวจจับการเปลี่ยนแปลงพฤติกรรมหลังจากการใช้ PAT, คุกกี้เซสชัน หรือข้อมูลรับรองของ service principal ที่ถูกขโมยได้อย่างไร โพสต์นี้แบ่งกิจกรรมของผู้โจมตีออกเป็นหกขั้นตอน ตั้งแต่การเข้าสู่ระบบครั้งแรกไปจนถึงการสำรวจสภาพแวดล้อม และครอบคลุมขั้นตอนการตอบสนองและการควบคุมที่จำกัดสิ่งที่ข้อมูลรับรองที่ถูกขโมยสามารถเข้าถึงได้

  6. Databricks Blog36

    Bright Machines ใช้ Debezium และ Iceberg เพื่อให้แดชบอร์ดแบบเรียลไทม์แก่ลูกค้าจากโรงงานที่แยกจากเครือข่าย

    Bright Machines มอบแดชบอร์ดข้อมูลโรงงานแบบเรียลไทม์ที่อยู่ภายใต้การกำกับดูแลให้แก่ลูกค้า โดยไม่ต้องเปิดการเข้าถึงขาเข้าใดๆ ระบบจับการเปลี่ยนแปลงของ PostgreSQL ที่ edge ด้วย Debezium เขียนเป็น Apache Iceberg ส่งออกผ่านช่องทางขาออกเดียวที่ตรวจสอบได้ และอ่านข้อมูล ณ ที่เดิมใน Databricks ผ่าน Unity Catalog federation แดชบอร์ดแรกที่ลูกค้ามองเห็นเปิดใช้งานประมาณสองเดือนหลังเริ่มโครงการ โดยแถวที่คอมมิตแล้วสามารถสอบถามได้ภายในหนึ่งถึงสองนาที และแดชบอร์ดรีเฟรชทุกสิบนาที

  7. AWS Machine Learning Blog58

    AWS เปิดตัว SGLang-Neuron ช่วยให้ déploy โมเดลระดับแนวหน้า บน Trainium ด้วยอินเทอร์เฟซ SGLang ที่มีอยู่

    Amazon ประกาศความพร้อมใช้งานทั่วไปของ SGLang-Neuron ซึ่งเป็นปลั๊กอินแบบ out-of-tree ที่รัน SGLang บน AWS Trainium ผ่าน AWS Deep Learning Container พัฒนาโดย RadixArk ร่วมกับ Annapurna Labs ผู้ใช้ยังคงใช้อินเทอร์เฟซเซิร์ฟเวอร์ SGLang และ API การสร้างข้อความเดิม ขณะที่ปลั๊กอินจัดเตรียมโมเดลเฉพาะสำหรับ Trainium, attention, MoE และ graph runner ที่สร้างบน PyTorch และ NKI kernels แบบเนทีฟซึ่งคอมไพล์ด้วย torch.compile นอกจากนี้ยังรองรับ PD disaggregation โดยถ่ายโอน KV cache ของ prefill ไปยังเซิร์ฟเวอร์ decode ผ่าน NIXL บน EFA และ walkthrough สาธิตการให้บริการ openai/gpt-oss-120b บนอินสแตนซ์ EC2 Trainium3 ด้วยคอนเทนเนอร์ pytorch-inference-sglang-neuronx

  8. AWS Machine Learning Blog40

    Natera สร้าง SWARM ระบบ AI แบบเอเจนต์สำหรับปฏิบัติการแล็บบน Amazon Bedrock AgentCore ได้อย่างไร

    Natera สร้าง SWARM ระบบ AI แบบเอเจนต์สำหรับปฏิบัติการแล็บ บน Amazon Bedrock AgentCore ลดเวลาตอบสนองครั้งแรกได้ราว 130 เท่า และAutomateตั๋วสนับสนุนได้ 96.2 เปอร์เซ็นต์ ระบบนี้จับคู่ swarm-agent ที่ร่างรายงานวินิจฉัยก่อนที่วิศวกรจะเปิดตั๋ว กับ swarm-hive สำหรับการโต้ตอบกับวิศวกรแบบเรียลไทม์ ทั้งสองใช้ไลบรารีทักษะร่วมกันหนึ่งชุด ระบบจัดการตั๋ว Jira กว่า 65 ใบต่อวันในสามคิว ซึ่งก่อนหน้านี้ใช้เวลาเฉลี่ย 17.4 ชั่วโมงในการตอบสนองครั้งแรก

  9. Databricks Blog30

    Databricks หักล้างความเชื่อผิดๆ 4 ข้อเกี่ยวกับสถาปัตยกรรม Lakebase ของ LTAP

    Databricks ตอบโต้ต่อความเข้าใจผิดที่พบบ่อย 4 ประการเกี่ยวกับ LTAP ซึ่งเป็นสถาปัตยกรรม Lakebase ที่เก็บสำเนาข้อมูลปฏิบัติการชุดเดียวภายใต้การกำกับดูแล ให้บริการทั้ง Postgres และการวิเคราะห์โดยไม่ต้องใช้ CDC บทความระบุว่า LTAP ไม่ใช่การทำ replication: ชั้นต่างๆ ที่อยู่หน้าเลกนั้นเป็นแคช ไม่ใช่ฐานข้อมูลที่สองที่มีแคตตาล็อกของตัวเอง นอกจากนี้ยังระบุว่า heap pages และ Parquet เป็นการเข้ารหัสแบบไม่สูญเสียข้อมูลสองรูปแบบของแถวข้อมูลเดียวกัน ดังนั้น point lookup และ scan จึงอ่านเลย์เอาต์ที่เร็วสำหรับแต่ละแบบ

  10. AWS Machine Learning Blog38

    Tokenomics ในระดับสเกล: การติดตามและจำกัดการใช้จ่าย Amazon Bedrock ต่อ IAM Principal ด้วย CUR 2.0 และ AWS Budgets

    AWS แสดงวิธีติดตามและจำกัดการใช้จ่ายของ Amazon Bedrock generative AI ต่อ IAM principal โดยใช้เฉพาะฟีเจอร์ที่มีอยู่แล้ว: Bedrock บันทึก IAM user หรือ role โดยอัตโนมัติในทุกคำขอ inference และแท็กเหล่านั้นกลายเป็น cost allocation tags ที่อ่านได้ใน Cost Explorer หรือไฟล์ส่งออก CUR 2.0 AWS Budget ที่กำหนดขอบเขตไปที่ Bedrock และกรองตาม identity หรือค่าแท็กหนึ่งค่า สามารถแนบ budget action ที่ใช้ Deny IAM policy เมื่อข้ามเกณฑ์ โดยไม่ต้องเขียนโค้ดแอปพลิเคชันสำหรับกรณีทั่วไป

  11. AWS Machine Learning Blog36

    ตัวเลือกการอนุมานสี่แบบของ Amazon Bedrock ที่ส่งผลต่อค่าใช้จ่าย

    ระยะเวลาแคช ระดับบริการ ความพยายามในการให้เหตุผล และการตั้งค่า maxTokens ของ Amazon Bedrock สามารถเปลี่ยนค่าใช้จ่ายในการอนุมานโดยไม่ต้องเปลี่ยนโมเดลหรือพรอมต์ การเขียนแคช 5 นาทีบน Claude Sonnet 5 และ Claude Opus 5 มีค่าใช้จ่าย 1.25 เท่าของอัตราอินพุต การเขียนแคช 1 ชั่วโมงมีค่าใช้จ่าย 2 เท่า และการอ่านแคชมีค่าใช้จ่าย 0.1 เท่า คำขอระดับ Flex ไปยังโมเดลที่ไม่รองรับจะล้มเหลวด้วย ValidationException

  12. Databricks Blog22

    Constellation สร้างรากฐานข้อมูลที่มีการกำกับดูแลบน Databricks อย่างไร

    Constellation ผู้ดำเนินการโรงไฟฟ้านิวเคลียร์รายใหญ่ที่สุดของสหรัฐฯ กำลังสร้างแพลตฟอร์มข้อมูลองค์กรที่มีการกำกับดูแลบน Databricks เพื่อให้ธุรกิจมีความหมายร่วมกันเพียงหนึ่งเดียวสำหรับข้อมูลของตน แพลตฟอร์มนี้ใช้ Unity Catalog สำหรับ lineage การเข้าถึงระดับละเอียด และโมเดลสิทธิ์เดียว พร้อมกับการสร้างแบบจำลอง Data Vault สำหรับเอนทิตีสำคัญที่นำกลับมาใช้ซ้ำได้ กรณีการใช้งานช่วงแรกประกอบด้วยผู้ช่วยวิศวกรรมนิวเคลียร์ที่สร้างด้วย Databricks Genie และการวางแผนช่วงหยุดเดินเครื่อง

  13. Databricks Blog25

    Eclipse Aerospace ใช้ Databricks PySpark custom data sources สำหรับการนำเข้าข้อมูลเที่ยวบิน

    Eclipse Aerospace กำลังใช้ Databricks PySpark custom data sources เพื่อนำเข้าข้อมูลเที่ยวบินเฉพาะของบริษัทเกือบ 20 ปี ปริมาณกว่า 3TB ครอบคลุมชั่วโมงบินกว่าหนึ่งล้านชั่วโมง โดยไม่ต้องใช้คอมพิวต์เฉพาะที่เปิดตลอดเวลา แพ็กเกจ Python ที่รองรับด้วย Rust ให้ประสิทธิภาพเป็นสองเท่าของ benchmark เมื่อเทียบกับ data source แบบ pure-Python ที่ใช้ PyArrow ในลักษณะเดียวกัน และเกือบ 20 เท่าของการใช้งานแบบ native Python ที่ไม่ใช้ Arrow API นี้ซึ่งเปิดตัวใน Apache Spark 4.0 และพร้อมใช้ใน Databricks Runtime 15.4 LTS แทนที่ไปป์ไลน์ Lambda-to-Avro เดิม

  14. AWS Machine Learning Blog66

    AWS อัปเดต AgentCore runtime เริ่มเซสชันเร็วขึ้น 15 เท่า และเพิ่มคอมพิวต์ 4 เท่า

    AWS ประกาศอัปเดต Amazon Bedrock AgentCore runtime ซึ่งเป็นเลเยอร์คอมพิวต์แบบจัดการสำหรับเอเจนต์ โดยเซสชันเริ่มทำงานเร็วขึ้นถึง 15 เท่า ขยายคอมพิวต์ได้มากขึ้น 4 เท่า (สูงสุด 8 vCPU และ 32 GB พร้อมอิมเมจคอนเทนเนอร์สูงสุด 10 GB) และทำงานมีประสิทธิภาพมากขึ้นถึง 68% โดยแต่ละเซสชันยังคงอยู่ใน Firecracker MicroVM ที่แยกฮาร์ดแวร์ของตัวเอง เซสชันเริ่มทำงานภายในไม่ถึง 2 วินาทีไม่ว่าจะมีขนาดอิมเมจหรือจำนวนคอนเคอร์เรนซีเท่าใด เอเจนต์ที่ไม่ได้ใช้งานจะสเกลลงเหลือศูนย์ และเอเจนต์สามารถเมานต์และบันทึกงานลงในไฟล์ซิสเต็ม เช่น บัคเก็ต Amazon S3 ที่รองรับ FUSE เพื่อให้ข้อมูลยังคงอยู่ในขอบเขตความเชื่อถือ runtime นี้พร้อมใช้งานแล้ววันนี้ในภูมิภาค AWS ทั่วอเมริกาเหนือ อเมริกาใต้ ยุโรป และเอเชียแปซิฟิก

    ทำไมเรื่องนี้สำคัญ: เวอร์ชันใหม่ของ AgentCore runtime ปรับทั้งการเริ่มเซสชัน เพดานคอมพิวต์ และการคิดค่าหน่วยความจำไปพร้อมกัน มอบทางเลือกระหว่างการแยกสภาพแวดล้อมกับต้นทุนใหม่ให้กับเอเจนต์ที่ต้องทำงานเป็นเวลานาน

  15. AWS Machine Learning Blog34

    สร้าง LLM gateway แบบ self-service ด้วย Amazon Bedrock และ LiteLLM

    LLM gateway แบบ self-service ที่สร้างบน Amazon Bedrock Application Inference Profiles และ LiteLLM ที่รันบน AWS Fargate เปิดให้เข้าถึงโมเดลพื้นฐานของ Bedrock ผ่าน API ที่เข้ากันได้กับ OpenAI ทำให้นักพัฒนามี base URL เดียวและคีย์แยกตามผู้ใช้ การตั้งค่านี้เพิ่มการควบคุมค่าใช้จ่ายรายผู้ใช้ การแยกโควตาตามโมเดล และการสังเกตการณ์ RPM/TPM ผ่าน CloudWatch พร้อม Langfuse สำหรับ telemetry ระดับพรอมต์ การออกคีย์แบบ self-service ต้องใช้ LiteLLM Enterprise เนื่องจากแพ็กเกจฟรีจำกัดที่ห้าผู้ใช้

  16. AWS Machine Learning Blog34

    การปรับต้นทุนต่องานให้เหมาะสมและการพิสูจน์ ROI ของเอเจนต์บน Amazon Bedrock

    โพสต์ของ AWS นี้โต้แย้งว่าควรตัดสินค่าใช้จ่ายของ Amazon Bedrock จากต้นทุนต่องานมากกว่าต้นทุนต่อโทเคน เนื่องจากประสิทธิภาพของ tokenizer ความยาวของเอาต์พุต จำนวนรอบของลูปเอเจนต์ และภาระจากการให้เหตุผล อาจทำให้โมเดลที่มีราคาถูกกว่ากลายเป็นมีต้นทุนสูงกว่า ตัวอย่างที่คำนวณจริงแสดงให้เห็นว่าโมเดลที่มีราคาตามรายการสูงกว่า 2 เท่าเสร็จสิ้นงานด้วยต้นทุนที่ถูกกว่า 65% ต่องาน และโพสต์ยังเพิ่มการแคช การกำหนดเส้นทาง และการจำกัดเอาต์พุต พร้อมด้วยสกอร์การ์ดห้ามิติสำหรับวัด ROI ของเอเจนต์เทียบกับฐานอ้างอิงจากมนุษย์

  17. Databricks Blog20

    Databricks Genie Migrate เปิดตัว GA อย่างเป็นทางการ รองรับการย้ายข้อมูลไปยัง Lakehouse ได้อย่างง่ายดาย

    Databricks ประกาศว่า Genie Migrate พร้อมใช้งานทั่วไปแล้ว ช่วยให้บริษัทต่างๆ ย้ายเวิร์กโหลดข้อมูลไปยัง Databricks Lakehouse ได้โดยใช้ความพยายาม manual น้อยลง เครื่องมือนี้มุ่งเป้าไปที่ทีมที่กำลังเร่งสร้าง AI agents และแอปพลิเคชันบนข้อมูลใน lakehouse

  18. LangChain Blog30

    Own Your Intelligence: LangChain on Why Generic AI Isn't Enough

    LangChain ระบุว่าบริษัทต่างๆ ต้องเป็นเจ้าของปัญญาประดิษฐ์ของตนเอง แทนที่จะพึ่งพาโมเดลทั่วไป โดยควบคุมสามชั้น ได้แก่ โมเดล ฮาร์เนส และบริบท โดยกล่าวว่าการเป็นเจ้าของระบบเอเจนต์ รวมถึงเศรษฐศาสตร์ คุณภาพ และความเสี่ยงที่เกี่ยวข้อง คือสิ่งที่เปลี่ยน AI ให้เป็นความได้เปรียบที่ยั่งยืน

  19. Databricks Blog22

    H6.ai สร้างระบบอัตโนมัติทางการเงินที่ขับเคลื่อนด้วย AI ด้วย Lakebase Postgres ได้อย่างไร

    H6.ai ทำให้กระบวนการจ่ายเงินเจ้าหนี้เป็นอัตโนมัติบน ERP ที่มีอยู่ของลูกค้า โดยใช้ฐานข้อมูล Lakebase Postgres เฉพาะสำหรับลูกค้าแต่ละรายเป็นระบบบันทึกหลัก เนื่องจากข้อมูลใบแจ้งหนี้เปลี่ยนแปลงอยู่ตลอดเวลา ทีมจึงใช้สาขา copy-on-write ของ Lakebase เพื่อตรึงสแนปช็อตของฐานข้อมูลลูกค้าและรันการทดสอบถดถอยแต่ละครั้งบนสาขาอายุสั้นของตัวเอง ฐานข้อมูลที่ใช้งานจริงจึงไม่ถูกเขียนทับเลย แต่ละรอบการรันถูกตัดสินด้วยการตรวจสอบแบบกำหนดผลได้แน่นอนร่วมกับคณะผู้ตัดสิน AI จากผู้ให้บริการโมเดลที่แตกต่างกัน

  20. Databricks Blog58

    Databricks เปิดตัว Lakehouse//RT เพื่อรองรับการวิเคราะห์แบบเรียลไทม์โดยต้นทุนไม่เพิ่มขึ้นตามสัดส่วน

    Databricks เปิดตัว Lakehouse//RT ซึ่งเป็นเอนจินวิเคราะห์แบบเรียลไทม์ที่รันเวิร์กโหลดที่มีการเข้าพร้อมกันสูงบนข้อมูลเลกเฮาส์โดยตรง และขณะนี้อยู่ในช่วงเบต้า บริษัทระบุว่าให้ความหน่วงต่ำกว่า 100 มิลลิวินาทีที่ 12,000 คิวรีต่อวินาที เพิ่มขีดความสามารถทีละโหนด และหลีกเลี่ยงเลเยอร์เสิร์ฟแยกต่างหาก ลูกค้าอย่าง Aurasell, VisionHeight และ nOps รายงานว่าต้นทุนโครงสร้างพื้นฐานลดลง 6 ถึง 10 เท่าหลังย้ายจากระบบหลายคลัสเตอร์, Apache Pinot และ Apache Druid

  21. AWS Machine Learning Blog38

    Amazon Bedrock AgentCore Evaluations: ตัวประเมินในตัว, DeepEval และ AutoEval

    ขณะนี้ Amazon Bedrock AgentCore Evaluations ช่วยให้ทีมต่างๆ รันตัวประเมินในตัวของ AWS ควบคู่ไปกับเมตริก DeepEval และ AutoEval ที่ได้รับการจัดการ รวมถึงตัวประเมินแบบกำหนดเองที่ได้มาจากทั้งสองแบบ แคตตาล็อกในตัวครอบคลุมตัวประเมิน 15 ตัวในด้านคุณภาพการตอบสนอง ความสำเร็จของเป้าหมาย การใช้เครื่องมือ ทักษะ และความปลอดภัย พร้อมการตรวจสอบเส้นทางการทำงาน 3 รายการสำหรับเส้นทางเครื่องมือที่คาดหวัง DeepEval เพิ่มเมตริกแบบหลายรอบ เช่น ConversationCompleteness และ KnowledgeRetention ขณะที่ AutoEval มีส่วนช่วยในสัญญาณเฉพาะทางรวมถึงความปลอดภัย

  22. AWS Machine Learning Blog36

    สร้าง Daily Dependency Watcher ด้วย LangGraph และ Amazon Bedrock AgentCore Web Search

    Web Search API ใน Amazon Bedrock AgentCore พร้อมใช้งานแล้ว ช่วยให้เอเจนต์ได้รับผลการค้นหาเว็บล่าสุดผ่านการเรียก API เดียวที่ลงนามด้วย SigV4 ซึ่งให้บริการจากดัชนีเว็บที่ Amazon ดำเนินการเอง บทความแนะนำการสร้าง daily dependency watch ในรูปแบบกราฟ LangGraph ที่ค้นคว้า npm, PyPI และ container base images แบบขนาน โดยมี date windows, blocklists และ search budgets ถูกบังคับใช้ในโค้ด ในการทดสอบ สาขาทั้งสามเสร็จสิ้นใน 36 วินาที เทียบกับ 99 วินาทีเมื่อรันแบบลำดับ

  23. AWS Machine Learning Blog58

    Kimi K3.1 Pro Highspeed ของ Moonshot AI เปิดตัวบน Amazon Bedrock

    Kimi K3.1 Pro Highspeed ของ Moonshot AI พร้อมใช้งานแล้วบน Amazon Bedrock เป็นเวอร์ชันที่ผ่าน post-training ของ Kimi K3 โดยมีสถาปัตยกรรมแบบ open-weight ระดับ 3T และหน้าต่างบริบท 1 ล้านโทเคนเช่นเดียวกัน ฝึกด้วยคอมพิวต์สำหรับ post-training มากขึ้นเพื่องานเอเจนต์ระยะยาวและลดข้อผิดพลาดด้านข้อเท็จจริง Moonshot AI รายงานความเร็วเอาต์พุตเป็น 2–3 เท่าของ Kimi K3.1 Pro และผู้ใช้ Kimi K3 ที่มีอยู่สามารถสลับได้โดยเปลี่ยน model ID โพสต์แสดงการเรียก Chat Completions, Responses และ Converse API, ชั้น Flex ในราคาครึ่งหนึ่งของ Standard, prompt caching แบบ explicit ด้วย prompt_cache_breakpoint และการเชื่อมต่อโมเดลกับเอเจนต์เขียนโค้ด OpenCode

  24. AWS Machine Learning Blog33

    Amazon SageMaker AI bidirectional streaming รองรับการคิดค่าบริการตามการใช้งาน โดยมี Deepgram เป็นพันธมิตรเปิดตัว

    Amazon SageMaker AI bidirectional streaming รองรับการวัดการใช้งานตามปริมาณการใช้งานแล้ว ช่วยให้ผู้ให้บริการโมเดลสามารถรายงานการใช้งานจริงไปยังค่าบริการซอฟต์แวร์ของ AWS Marketplace ได้ ขณะที่ค่าบริการโครงสร้างพื้นฐานของ endpoint ยังคงมีผลอยู่ Deepgram เป็นพันธมิตรเปิดตัว นำการคิดค่าบริการ Speech-to-Text และ Text-to-Speech ตามการใช้งานมาสู่ AWS Marketplace การออกแบบเพิ่มสตรีมข้อมูลเมตา WebSocket เสริม ซึ่งจำกัดที่หนึ่งข้อความต่อวินาทีและ 512 ไบต์ เพื่อให้ผู้ให้บริการสามารถส่งบันทึกการวัดแบบเพิ่มขึ้นระหว่างเซสชันสดได้

  25. AWS Machine Learning Blog60

    AWS เปิดซอร์ส UAEF ระบบประเมินผลสำหรับ AI agents ที่ไม่ผูกกับเฟรมเวิร์ก

    AWS ได้เปิดซอร์ส UAEF (Universal Agent Evaluation Framework) ระบบที่ไม่ผูกกับเฟรมเวิร์ก ซึ่งใช้อะแดปเตอร์ในการปรับมาตรฐาน agent traces จาก LangGraph, LangChain, Strands Agents, Amazon Bedrock AgentCore และ Langfuse ให้เป็น AgentTrace แบบมาตรฐานเดียว แล้วให้คะแนนด้วยเมตริกในตัว 36 รายการครอบคลุม 7 มิติ ผลลัพธ์ถูกจัดเก็บแยกตามการทดลองใน Amazon DynamoDB และ Amazon S3 เพื่อให้ทีมสามารถเปรียบเทียบเวอร์ชันของ agent กับ baseline ตรวจจับการถดถอยด้วยเกณฑ์เริ่มต้น 5 เปอร์เซ็นต์ และสร้างรายงานทางสถิติพร้อมข้อมูลเชิงลึกที่เขียนโดย LLM โพสต์ระบุว่าลูกค้าใน 12 องค์กรในอุตสาหกรรมโทรคมนาคม สุขภาพ และบริการทางการเงินได้ใช้ UAEF ก่อนการเปิดตัว และโค้ดภายใต้ Apache 2.0 ไลบรารี Python การติดตั้งด้วย CDK และโน้ตบุ๊กแยกตามเฟรมเวิร์กอยู่ในรีโพ GitHub awslabs/uaef

    ทำไมเรื่องนี้สำคัญ: ทีม AWS ได้เปิดซอร์ส UAEF ซึ่งใช้อะแดปเตอร์เพื่อรวมเส้นทางการทำงานของ agent จากเฟรมเวิร์กต่างๆ ให้เป็นรูปแบบเดียว แล้วให้คะแนนครอบคลุม 7 มิติด้วยเมตริก 36 รายการ มอบชั้นการประเมินที่นำกลับมาใช้ซ้ำได้สำหรับการเปรียบเทียบเวอร์ชันของ agent ข้ามเฟรมเวิร์ก

  26. AWS Machine Learning Blog36

    AWS Quick AI-PDLC: หกเอเจนต์สำหรับการพัฒนาผลิตภัณฑ์ที่ขับเคลื่อนด้วย AI

    AWS Quick เปิดตัว AI-PDLC กรอบการทำงานของเอเจนต์เฉพาะทางหกตัว โดยมี Orchestrator เป็นผู้นำ ครอบคลุม Discovery, Prioritize, Working Backwards, Spec Generator และ Designer ซึ่งเปลี่ยนสัญญาณองค์กรที่กระจัดกระจายจาก Slack, Jira, Salesforce และ SharePoint ให้เป็น prototype_spec.md ที่ตรวจสอบย้อนกลับได้ ทุกขั้นตอนต้องได้รับการอนุมัติจากมนุษย์ และสามารถส่งสเปกให้เอเจนต์เขียนโค้ดอย่าง Kiro หรือ Claude Code ผ่าน Agent Client Protocol (ACP) แบบเปิดได้

  27. AWS Machine Learning Blog40

    AWS เปิดแคตตาล็อกสินทรัพย์ Generative AI แบบใช้ซ้ำได้ 23 รายการจาก Innovation Center

    AWS ได้เผยแพร่แคตตาล็อกสินทรัพย์ Generative AI แบบโอเพนซอร์สที่พร้อมใช้งานจริงจำนวน 23 รายการจาก Generative AI Innovation Center ซึ่งปัจจุบันเป็นส่วนหนึ่งของ AWS Frontier AI Engineering & Services บล็อกพื้นฐานเหล่านี้ครอบคลุมไปป์ไลน์ RAG ตัวประมวลผลเอกสาร โครงสร้างเอเจนต์ และเฟรมเวิร์กการประเมินผล และ AWS ระบุว่าสามารถลดระยะเวลาการพัฒนาจากหลายเดือนเหลือหลายสัปดาห์ DoorDash รายงานว่าความสามารถในการทดสอบเพิ่มขึ้น 50 เท่า และ Ricoh รายงานว่าปริมาณงานเพิ่มขึ้น 7 เท่าหลังจากสร้างบนสินทรัพย์เหล่านี้

  28. AWS Machine Learning Blog38

    DXC Technology สร้างฐาน AI แบบหลายโมเดลบน Amazon Bedrock ได้อย่างไร

    DXC Technology สร้างฐานโมเดลสำหรับระบบปฏิบัติการไอที DXC OASIS บน Amazon Bedrock โดยเข้าถึง Anthropic Claude, Amazon Nova, Meta Llama และโมเดลแบบเปิดน้ำหนักผ่านอินเทอร์เฟซที่จัดการแบบครบวงจรเดียว Amazon Bedrock Guardrails ใช้การกรองเนื้อหา การปกปิดข้อมูลส่วนบุคคล และนโยบายหัวข้อที่ถูกห้ามอย่างสม่ำเสมอในทุกโมเดล ขณะที่ AWS PrivateLink รักษาการรับส่งข้อมูลการอนุมานให้อยู่ภายใน VPC ของลูกค้า DXC OASIS พร้อมใช้งานทั่วไปตั้งแต่เดือนมีนาคม 2026 และลดเวลาการแก้ไขลงได้โดยเฉลี่ย 95% จาก 56 กรณีการใช้งานที่วัดผล

  29. AWS Machine Learning Blog40

    Agent DLC: วิศวกรรมเอเจนต์ AI จากต้นแบบสู่โปรดักชัน

    AWS เปิดตัว Agent Development Lifecycle (Agent DLC) กรอบการทำงานที่มีหนึ่งวงจรชีวิต สองลูป และมาตรฐานชัดเจนเพียงหนึ่งเดียวสำหรับตัดสินทุกการเปลี่ยนแปลงของเอเจนต์ โดยแก้ปัญหาคุณสมบัติสามประการของเอเจนต์ที่ทำให้ CI/CD แบบเดิมใช้ไม่ได้ ได้แก่ ความไม่แน่นอนของผลลัพธ์ พรอมต์ในฐานะซอร์สโค้ด และ dependencies ที่เคลื่อนที่อย่างอิสระ ตัวอย่างผู้ช่วยนโยบาย HR แบบอ้างอิงแสดงความแม่นยำการดึงข้อมูลระดับชังก์ที่ 1.00 across ทั้งสามคำถามทดสอบ ขณะที่ความแม่นยำระดับข้อเท็จจริงลดลงเหลือ 0.09 และความครอบคลุมการดึงข้อมูลแตะ 0.00 ในหนึ่งคำถาม

  30. AWS Machine Learning Blog36

    การควบคุมการเข้าถึงแบบละเอียดสำหรับเครื่องมือ Amazon Bedrock Managed Knowledge Base

    AWS แสดงวิธีให้เอเจนต์ AI ที่ใช้ร่วมกันสามารถเข้าถึงเอกสารรายผู้ใช้บน Amazon Bedrock Managed Knowledge Base โดยเปิดเผยการค้นหาเป็นเครื่องมือ MCP ผ่าน AgentCore Gateway ตัวดักจับคำขอจะฉีดอีเมลของผู้ใช้ที่ผ่านการตรวจสอบจาก Cognito JWT ลงใน userContext และการรับรู้ ACL จะคืนเฉพาะเอกสารที่ผู้ใช้นั้นมีสิทธิ์ดูเท่านั้น นโยบาย Cedar ใน AgentCore และนโยบายตามทรัพยากรบนฐานความรู้เพิ่มการป้องกันชั้นที่สองต่อการค้นหาที่ปลอมแปลงหรือไม่ได้รับอนุญาต

  31. AWS Machine Learning Blog58

    AWS อธิบายการสร้างระบบหลายเอเจนต์ข้ามองค์กรด้วย A2A

    AWS เผยแพร่สถาปัตยกรรมอ้างอิงที่ orchestrator องค์กรซึ่งใช้ LangChain บน Amazon ECS เรียกเอเจนต์ SaaS ด้าน compliance ที่ใช้ Strands Agents บน Amazon Bedrock AgentCore ผ่านโปรโตคอล A2A โดยทั้งสองฝ่ายอยู่ในบัญชี AWS แยกกันและไม่มีการแชร์ secret ร่วมกัน แต่ละฝ่ายยืนยันตัวตนด้วยโทเคนจาก Amazon Cognito user pool ของตนเอง และเอเจนต์ SaaS เรียกกลับไปยังเอเจนต์บริบทองค์กรเพื่อขอ metadata ของบัญชี เอเจนต์จึงทำหน้าที่เป็น peer มากกว่าจะเป็น client กับ server ระบบนี้ติดตั้งจาก Jupyter notebook สามไฟล์ซึ่ง provision CloudFormation stack ห้าแห่ง และรันการทดสอบแบบ end-to-end พร้อมการตรวจสอบขอบเขตความเชื่อถือเจ็ดรายการ

  32. AWS Machine Learning Blog34

    การย้ายไปยัง Amazon Bedrock Managed Knowledge Base ด้วย coding agent

    AWS เพิ่มคู่มือการย้ายฐานความรู้ไปยัง amazon-bedrock skill ใน Agent Toolkit for AWS ทำให้ coding agent สามารถวางแผนการย้ายจากฐานความรู้ที่ลูกค้าจัดการเองไปยัง Amazon Bedrock Managed Knowledge Base โดย agent จะเริ่มจากการค้นหาแบบอ่านอย่างเดียวและแผนที่ผ่านการตรวจทานทีละบรรทัด จากนั้นสร้างฐานความรู้และแหล่งข้อมูลใหม่เคียงข้างของเดิม หรือเขียนเทมเพลต IaC ที่ย้ายแล้ว Managed Knowledge Base เพิ่มโควตาเริ่มต้นเป็น 200 แหล่งข้อมูลต่อฐานความรู้ และ 10,000 ฐานความรู้ต่อบัญชีต่อ Region และเพิ่มการดึงข้อมูลแบบ agentic การผสานรวม AgentCore Gateway และนโยบายตามทรัพยากร

12 พฤศจิกายนวันพฤหัสบดี
  1. Databricks Blog40

    แอป Genie ของ Databricks สำหรับ Slack เปิดให้ใช้งานทั่วไปอย่างเป็นทางการ

    Databricks ประกาศเปิดให้แอป Genie สำหรับ Slack ใช้งานได้ทั่วไปอย่างเป็นทางการแล้ว ผู้ใช้สามารถถามคำถามเกี่ยวกับข้อมูลผ่าน DM หรือ @mention และรับคำตอบในเธรด โดยอ้างอิงสิทธิ์การเข้าถึงของ Unity Catalog ทุกคำตอบจะระบุแหล่งที่มา และผ่านตัวเชื่อมต่อ MCP นั้น Genie สามารถร่างเอกสาร ตั๋ว และการแก้ไขบันทึกเพื่อขออนุมัติก่อนดำเนินการ

  2. Databricks Blog58

    Block 如何利用 Buzz 和 Databricks Unity Gateway 运行协作式 AI 代理

    Block 构建了 Buzz，这是一个开源协作工作空间，员工和 AI 代理可以在其中通过群组讨论、聚焦对话和一对一交流协同工作，并使用 Databricks Unity Gateway 作为模型访问层。员工可以创建代理、为每个代理选择背后的模型或编码工具，并选择 Databricks 作为其推理提供商，通过单一集成访问 OpenAI、Anthropic 和 Google 的前沿模型以及部分开放权重模型。Block 的工程师还在试验多代理设置，即由能力更强的模型协调运行更小、更高效模型的代理，并已构建了一套内部方法来对这些代理团队进行基准测试。

  3. NVIDIA Blog18

    Warhammer 40,000: Dawn of War IV 即将登陆 GeForce NOW

    由 KING Art Games 开发、Deep Silver 发行的 Warhammer 40,000: Dawn of War IV 将于 12 月 3 日星期四在 Steam 上线时同步登陆 GeForce NOW。这款即时战略游戏包含超过 70 个战役任务，可单人游玩或合作游玩，另有 The Last Stand、Skirmish 和多人模式。搭载 3D-Guided Neural Rendering 的 NVIDIA DLSS 5 也将于 11 月中旬登陆 War Thunder，并于 11 月 23 日星期一登陆 Where Winds Meet。

  4. LangChain Blog40

    GTM Agent ของ LangChain สร้างสรรค์ผลงานการขายที่มีคุณภาพสม่ำเสมอได้อย่างไร

    GTM Agent ภายในของ LangChain สร้างผลงานการขาย 1,540 ชิ้นภายใน 12 สัปดาห์ ช่วยประหยัดเวลาให้ตัวแทนขาย 337 ชั่วโมงสำหรับเอกสารเช่น แผนบัญชีลูกค้าและชุดสไลด์ข้อเสนอ 47% ของดีลที่มีการส่งผลงานไปยัง progressed ไปสู่ขั้นถัดไป เทียบกับ 16% ของดีลที่จับคู่กันโดยไม่มีผลงาน และ 46% ของผลงานมีการโทรหาลูกค้าตามมาภายใน 14 วัน เอเจนต์นี้ทำงานบน Deep Agents harness ซึ่งมี sandbox, skills, memory และ scheduled runs ให้ใช้ใน Managed Deep Agents

  5. AWS Machine Learning Blog36

    สร้าง AI agent แบบอัตโนมัติด้วย Amazon Bedrock และ Spring AI

    AWS แสดงให้นักพัฒนาชาว Java เห็นวิธีสร้าง AI agent แบบอัตโนมัติโดยใช้ Spring AI และ AgentCore ของ Amazon Bedrock พร้อมการผสานรวม spring-ai-agentcore โดยมีรายละเอียดระบบอ้างอิงสองระบบ ได้แก่ ผู้ช่วยท่องเที่ยวแบบ agent เดี่ยวที่รองรับ tool calling และ memory และแพลตฟอร์มประมวลผลเอกสารอัจฉริยะแบบหลาย agent ที่มี agent ผู้เชี่ยวชาญห้าตัว มี rules engine และการแจ้งเตือน สแตกนี้ต้องใช้ JDK 21, Spring Boot 4.1 กับ Spring AI 2.0 และติดตั้งผ่าน AgentCore runtime บนคอนเทนเนอร์ ARM64

  6. LiveKit Blog55

    LiveKit เปิดตัว Cloud API ในเวอร์ชันเปิดเบต้า เพื่อให้เอเจนต์เขียนโค้ดสามารถจัดการ LiveKit Cloud ได้

    LiveKit เปิดตัว LiveKit Cloud API ในเวอร์ชันเปิดเบต้า ช่วยให้เอเจนต์เขียนโค้ดสามารถสร้างและกำหนดค่าโปรเจกต์ จัดการสมาชิกและเว็บฮุก และดึงทรานสคริปต์ บันทึก ร่องรอย และการบันทึกจากการเรียกของเอเจนต์ได้ API นี้เป็น REST API ที่ทำงานโดยลงชื่อเข้าใช้ในนามของผู้ใช้ ด้วยโทเค็นอายุสั้นที่ตรวจสอบกับบทบาทของโปรเจกต์ และการกระทำที่ละเอียดอ่อนจำกัดเฉพาะผู้ดูแลโปรเจกต์ ในการทดสอบกับผู้ช่วยเอกสารของ LiveKit เอเจนต์เขียนโค้ดอ่าน 4,321 เซสชันจากสัปดาห์ที่ผ่านมาและส่งคืนรายการจัดอันดับ 8 ปัญหาหลังจากประมาณ 30 นาที ข้อมูลเซสชันต้องใช้ Agent Observability ซึ่งปิดอยู่โดยค่าเริ่มต้นสำหรับโปรเจกต์ที่สร้างผ่าน API และคำขอ API นั้นฟรีแต่มีข้อจำกัดอัตราตามแผน

  7. OpenRouter Announcements58

    OpenRouter เปรียบเทียบต้นทุน LLM แบบโฮสต์เองกับ API ด้วยการคำนวณจุดคุ้มทุนตามโหลด

    OpenRouter เผยแพร่การวิเคราะห์จุดคุ้มทุนที่แสดงว่าเมื่อใดการโฮสต์ LLM แบบเปิดน้ำหนักเองมีต้นทุนต่ำกว่าการเรียกผ่าน API โดยใช้ราคาต่อผู้ให้บริการ ณ วันที่ 8 ตุลาคม 2026 ที่ราคาดังกล่าว Qwen3.8 27B บน RTX 3090 เช่าเครื่องละ 0.50 ดอลลาร์ต่อชั่วโมงคุ้มทุนที่โหลด 6 ถึง 12% ขณะที่ DeepSeek V4.1 Flash บน H200 สี่ตัวไม่เคยเอาชนะ endpoint แบบ zero-data-retention ที่ถูกที่สุดได้ โพสต์ยังระบุว่า provider.zdr และโดเมน EU และ US ครอบคลุมความต้องการด้านความเป็นส่วนตัวส่วนใหญ่ได้โดยไม่ต้องโฮสต์เอง และแนะนำให้รันโหลดพื้นฐานsteady ไว้ในเครื่องท้องถิ่นพร้อมส่งช่วงพีคไปที่ API

  8. vLLM Blog60

    vLLM เพิ่มการรองรับ day-0 สำหรับ Inkling 2 Small ของ Thinking Machines

    vLLM รองรับ Inkling 2 Small ของ Thinking Machines ใน day 0 ซึ่งเป็น MoE แบบมัลติโหมดข้อความและภาพที่มีพารามิเตอร์รวม 594B และพารามิเตอร์ที่ใช้งาน 17B และมีบริบทสูงสุด 1M โทเค็น การผสานรวมนี้เพิ่ม kernel fusion กับ PDL, sequence parallelism สำหรับ prefill ที่ลดขั้นตอน prefill 8K โทเค็นลง 22% ที่ TP4 และ 26% ที่ TP8 และ Gluon relative attention decode kernel ที่ลดขั้นตอน decode แบบ batch-1 ที่บริบท 100K จาก 15.1 ms เหลือ 4.8 ms vLLM รายงานสูงสุด 630 TPS/user ที่ TP4 บน GB200 ด้วย acceptance length 3.5 และยังรองรับ LoRA และ RL ผ่าน SkyRL

    ทำไมเรื่องนี้สำคัญ: vLLM รองรับ Inkling 2 Small ในวันเปิดตัวพร้อมให้ข้อมูลการปรับแต่งที่เฉพาะเจาะจงของ kernel fusion, sequence parallelism และ Gluon decode kernel ซึ่งเป็นประโยชน์ต่อทีมที่ปรับใช้โมเดล MoE ขนาดใหญ่