یک چالش مهم برای این فرض که سیستمی که در یک معیار به خوبی عمل می‌کند، انجام آن چیزی است که مردم واقعاً به آن نیاز دارند.
بررسی
کریستین شکاف بین آنچه سیستم‌های یادگیری ماشینی برای انجام آن آموزش دیده‌اند و اهداف انسانی که انتظار می‌رود در خدمت آنها باشند را بررسی می‌کند. این کتاب از طریق کار محققانی که با این مشکلات روبه‌رو می‌شوند، طراحی فنی را با سؤالات سوگیری، رفتار و مسئولیت‌پذیری مرتبط می‌کند. به جای اینکه آن را به عنوان یک دغدغه فلسفی دور باقی بگذارد، همسویی را ملموس می کند.
برای رهبران کسب و کار، سودمندترین سوال آن این است که آیا هدف انتخاب شده نشان دهنده وظیفه واقعی است یا خیر. برای مثال، رسیدگی سریع‌تر به ادعاها، به عنوان یک هدف ناقص است، اگر فرآیند چالش‌برانگیز سخت‌تر شود یا موارد استثنایی کمتر مورد توجه قرار گیرند. یک ارزیابی مفید در نظر می‌گیرد که چه کسی سود می‌برد، چه کسی خطر را به دوش می‌کشد، و وقتی سیستم نامشخص است چه اتفاقی می‌افتد.
فرض کنید یک گردش کار ادعاهای گویا برای بسته شدن سریع پرونده ها پاداش می گیرد. ممکن است با انتقال موارد دشوار به جای دیگر یا دلسرد کردن سؤالات، معیار تیتر خود را بهبود بخشد. مشکل فقط یک مدل ضعیف نیست. این یک تعریف ناقص از موفقیت است. درس عملی آزمایش رابطه بین یک هدف و نتیجه انسانی است که قرار است آن را نشان دهد. در خارج از یک سازمان، همین سوال در مورد اهداف شخصی صدق می کند: یک عدد می تواند بهبود یابد در حالی که هدف اساسی نادیده گرفته شود.
این کتاب به مطالعه دقیق پاداش می‌دهد و ممکن است نسبت به یک کتاب راهنمای اجرایی سریع، سخت‌تر باشد. بهتر است از آن برای بهبود سوالات پرسیده شده در طول طراحی و بررسی استفاده شود، نه به عنوان یک بر نامه انطباق آماده. این یک پایه قوی برای بحث در مورد استقرار مسئولانه و نظارت معنادار انسانی فراهم می کند.
موارد زیر کاربردهای عملی ما از ایده های کتاب است. یک اقدام را برای امتحان در این هفته انتخاب کنید، سپس به آنچه تغییر کرده است فکر کنید.
ایده ها در حال عمل · در محل کار
سه چیز برای انجام کار
آنچه را که متریک حذف می‌کند نام ببرید
برای یک هدف عملکردی، روشی را بنویسید که این عدد می‌تواند در حالی که تجربه مشتری بدتر می‌شود، بهبود یابد. قبل از اینکه نتیجه را به عنوان موفقیت تلقی کنید، مروری بر آن مبادله اضافه کنید.
موارد ناخوشایند را عمداً آزمایش کنید
نمونه‌های ناقص، غیرعادی و مورد بحث را در ارزیابی هوش مصنوعی بگنجانید. از افرادی که به آن موارد رسیدگی می کنند بپرسید که آیا پاسخ پیشنهادی مفید است و چه زمانی باید تشدید شود.
بررسی انسانی را نتیجه بخش کنید
مشخص کنید چه کسانی می‌توانند نتیجه خودکار را رد کنند، چه شواهدی دریافت می‌کنند و چگونه تصحیح به صاحب فرآیند می‌رسد. بررسی باید در صورت لزوم نتیجه را تغییر دهد، نه اینکه صرفاً آن را تأیید کند.
فراتر از روز کاری
سه چیز برای وارد شدن به زندگی
یک هدف را دوباره به هدفش متصل کنید
یک هدف را که دنبال می‌کنید انتخاب کنید و بپرسید که قرار است چه چیزی را بهبود بخشد. به دنبال رفتاری باشید که با شکست دادن هدف، به عدد دست یابد و نحوه قضاوت خود درباره پیشرفت را تجدید نظر کنید.
هدف یک توصیه را زیر سوال ببرید
وقتی برنامه‌ای پیشنهاد می‌کند چه چیزی بخوانید، تماشا کنید یا بخرید، بپرسید که آیا هدف آن با هدف شما مطابقت دارد یا خیر. به جای پذیرش پیش فرض، بر اساس اولویت های خود یک انتخاب عمدی انجام دهید.
به دنبال چشم‌اندازی باشید که روتین‌تان از دست می‌دهد
قبل از یک تصمیم مشترک، از کسی که تحت تاثیر آن قرار گرفته است بپرسید چه چیزی را نادیده گرفته اید. یک حساب متفاوت می تواند فرضی را آشکار کند که فقط از موقعیت شما منطقی به نظر می رسد.
یک سوال برای تیم شما
کجا یک متریک هوش مصنوعی به ظاهر موفق می‌تواند نتیجه بدتری را برای یک مشتری یا همکار پنهان کند؟
از خواندن تا تمرین
چگونه Genellipse می تواند کمک کند
Genellipse می‌تواند به تعریف معیارهای ارزیابی، نقاط بررسی، مسیرهای تشدید، و الزامات شواهد برای یک گردش کار هوش مصنوعی کمک کند. Cortex AI می‌تواند زمینه عملیاتی را برای عوامل تحت کنترل فراهم کند، در حالی که سرویس مدیریت هوش مصنوعی مسئول ما کمک می‌کند تا کنترل‌ها را با تصمیمات تجاری و افرادی که در قبال آنها پاسخگو هستند هماهنگ کنند.
سرویس مربوطه را کاوش کنیداین مرورها به صورت گذشته‌نگر در سپتامبر 2026 تهیه شدند. برچسب‌های ماه مجموعه‌های خواندن را سازماندهی می‌کنند و تاریخ انتشار اصلی نیستند. رتبه بندی های شخصی توسط Abdollah Dehnashi ارائه شده است. بررسی ها و برنامه های کاربردی برای CEO Corner آماده شده است.