הערת שקיפות עבור Microsoft Copilot

מהי הערת שקיפות?

מערכת בינה מלאכותית כוללת לא רק את הטכנולוגיה, אלא גם את האנשים שישתמשו בה, את האנשים שהושפעו מהטכנולוגיה ואת הסביבה שבה היא נפרסת. הערות השקיפות של Microsoft נועדו לעזור לך להבין כיצד פועלת טכנולוגיית הבינה המלאכותית מאחורי Copilot, את הבחירות שביצענו המשפיעות על הביצועים וההתנהלות של המערכת ואת החשיבות של החשיבה על המערכת כולה, כך שמשתמשי Copilot יוכלו לקבל שליטה על החוויות שלהם ולהבין את השלבים שאנו נוקטים כדי לספק מוצר בטוח ומאובטח.

הערות השקיפות של Microsoft הן חלק ממאמץ נרחב יותר ב- Microsoft לתרגל את עקרונות הבינה המלאכותית שלנו. לקבלת מידע נוסף, ראו את עקרונות הבינה המלאכותית של Microsoft. 

יסודות Microsoft Copilot

יכולות

מגבלות

מודלי השפה, הדימות והשמע המשמשים את חוויית Copilot עשויים לכלול נתוני הדרכה העשויים לשקף הטיות חברתיות, שעשויות לגרום ל- Copilot לפעול בדרכים שנתפסות בלתי הוגנת, בלתי אמין או פוגענית. למרות ההכשרה האינטנסיבית שלנו למודלים וכוונון בטיחות, וכן על היישום של בקרות ובטיחות אחראיות של בינה מלאכותית שאנחנו ממקם על נתוני ההכשרה, בקשות המשתמשים ופלט המודלים, השירותים מונחי הבינה המלאכותית הם שגויים ורבי ערך. הדבר מקשה על חסימה מקיפה של כל התוכן הבלתי הולם, המוביל לסיכונים שהטיה פוטנציאלית, סטריאוטיפים, אי-קדמה או סוגים אחרים של נזק שעלולים להופיע בתוכן שנוצר על-ידי בינה מלאכותית. חלק מהדרכים שבהן מגבלות אלה עשויות להתבטא בחוויה של Copilot מפורטות כאן. 

• סטריאוטיפ: חוויית קופילוט עשויה לחזק סטריאוטיפים. לדוגמה, בעת תרגום "הוא אחות" ו"היא רופאה" לשפה ללא מגדר כגון טורקית ולאחר מכן חזרה לאנגלית, Copilot עשויה לניב בשוגג את התוצאות הסטריאוטיפיות (השגויות) של "היא אחות" ו"הוא רופא". דוגמה נוספת היא בעת יצירת תמונה בהתבסס על הבקשה "ילדים נטולי אב", המערכת יכולה ליצור תמונות של ילדים מגזע אחד או אתניות אחד בלבד, לחיזוק סטריאוטיפים מזיקים שעשויים להתקיים בתמונות הזמינות לציבור, המשמשות לאמן את המודלים המשמשים בסיס. Copilot עשוי גם לחזק סטריאוטיפים בהתבסס על התוכן בתמונת הקלט של המשתמש על-ידי התבססות על רכיבי התמונה והנחות שעשויות להיות לא נכונות. יישמנו צמצום סיכונים כדי להפחית את הסיכון לתוכן המכיל סטריאוטיפים פוגעניים, כולל מסווגי קלט ופלט, מודלים משויכים והודעות מערכת.

• הצגה מצג-יתר ופחת: Copilot עשוי לייצג קבוצות אנשים מעל או לא מייצגות אותן, או אפילו לא לייצג אותן כלל, בתגובות שלה. לדוגמה, אם הודעות טקסט המכילות את המילה "הומו" מזוהות כהודעות שעלולות להיות מזיקות או פוגעות, הדבר עלול להוביל לתוקף של דורות חוקיים בנוגע לקהילת LGBTQIA+. בנוסף לכלול סיווגי קלט ופלט, מודלים מכווננים וכן הודעות מערכת, אנו משתמשים בהעשרת בקשות ב- Designer בתור אחד מכמה צמצום סיכונים כדי להפחית את הסיכון של תוכן שקבוצות אנשים מעל או לא מייצגות.

• תוכן בלתי הולם או פוגעני: חוויית Copilot עשויה להפיק סוגים אחרים של תוכן בלתי הולם או פוגעני. דוגמאות לכך כוללות את היכולת ליצור תוכן במודאליות אחת (לדוגמה, שמע) הבלתי הולם בהקשר של הבקשה שלו או בהשוואה לאותו פלט במודאליות שונה (לדוגמה, טקסט). דוגמאות אחרות כוללות תמונות שנוצרו על-ידי בינה מלאכותית שעשויות להכיל ממצאים מזיקים כגון סמלי שנאה, תוכן הקשור לנושאים מתחרים, מעוררי מחלוקת או מקטבים מבחינה אידיאולוגית ותוכן טעון מינית שמתחמק ממסנןי תוכן הקשורים למיניות. הצבנו צמצום סיכונים כדי להפחית את הסיכון לדורות המכילים תוכן בלתי הולם או פוגעני, כגון מסווגי קלט ופלט, מודלים מכווננים והודעות מערכת.

• מהימנות מידע: בעוד ש- Copilot שואפת להגיב עם מקורות מהימנים במידת הצורך, הבינה המלאכותית יכולה לבצע טעויות. הוא עלול ליצור תוכן שטני או ליצור תוכן שעשוי להישמע סביר, אך אינו מדויק מבחינה עובדתית. גם בעת ציור תגובות מתוך נתוני אינטרנט בעלי סמכות גבוהה, תגובות עשויות להציג תוכן זה באופן שאינו מדויק או מהימן לחלוטין. אנו מזכירים למשתמשים באמצעות ממשק המשתמש ובתיעוד כזה ש- Copilot יכול לבצע טעויות. כמו כן, אנו ממשיכים לחנך את המשתמשים על המגבלות של בינה מלאכותית, כגון עידודם לבדוק שוב עובדות לפני קבלת החלטות או ביצוע פעולות בהתאם לתגובות של Copilot. כאשר המשתמשים מקיים אינטראקציה עם Copilot באמצעות טקסט, הוא ינסה להקרקע את עצמו כנתוני אינטרנט באיכות גבוהה כדי להפחית את הסיכון שדורות אינם מוארפים.

• ביצועים רב-לשוניים: ייתכן שקיימות וריאציות בביצועים בשפות שונות, עם ביצועים מיטביים באנגלית בעת שחרור Copilot המעודכן. שיפור הביצועים בשפות שונות הוא אזור השקעה עיקרי, והמודלים האחרונים הובילו לביצועים משופרים.

• מגבלות שמע: מודלים של שמע עשויים לגרום למגבלות אחרות. באופן נרחב, האיכות האקוסטית של קלט הדיבור, רעש שאינו דיבור, אוצר מילים, הדגשה ושגיאות הוספה עשויה גם היא להשפיע על תהליכי Copilot ומגיבים לקלט השמע של המשתמש באופן משביע רצון. בנוסף, מאחר שהמשתמש מבקש לעשות שימוש ב- Copilot Voice לא יפעיל חיפושים באינטרנט, ייתכן ש- Copilot לא יוכל להגיב לאירועים הנוכחיים במצב קול.

• תלות בקישוריות לאינטרנט: חוויית Copilot המעודכנת מסתמכת על קישוריות לאינטרנט כדי לתפקד. שיבושים בקישוריות עשויות להשפיע על הזמינות והביצועים של השירות.

ביצועי מערכת

במערכות בינה מלאכותית רבות, הביצועים מוגדרים לעתים קרובות ביחס לדיוק (כלומר, באיזו תדירות מערכת הבינה המלאכותית מציעה חיזוי או פלט נכונים). בעזרת Copilot, אנו מתמקדים ב- Copilot כעוזר שמוקד על-ידי בינה מלאכותית המשקף את העדפות המשתמש. לכן, שני משתמשים שונים עשויים להסתכל על אותו פלט ויש להם דעות שונות לגבי האופן שבו הם שימושיים או רלוונטיים, בהתאם למצב ולציפיות הייחודיים שלהם, כלומר יש להגדיר ביצועים עבור מערכות אלה בצורה גמישה יותר. אנו שוקלים באופן נרחב לבצע את הביצועים כך שהיישום פועל כצפוי על-ידי המשתמשים.

מיפוי, מדידה וניהול של סיכונים

כמו טכנולוגיות טרנספורמציה אחרות, נצלת היתרונות של בינה מלאכותית אינה מבוססת על סיכונים, ו חלק מרכזי בתוכנית הבינה המלאכותית האחראית של Microsoft נועד לזהות ולמפה סיכונים פוטנציאליים, למדוד סיכונים אלה ולנהל אותם על-ידי בניית צמצום סיכונים ושיפור ההמשך של Copilot לאורך זמן. בסעיפים הבאים אנו מתארים את הגישה האיטרטיבית שלנו למפות, למדוד ולנהל סיכונים פוטנציאליים.

מפה: תכנון קפדני ובדיקות תואר הפועל לפני פריסה, כגון צוות אדום, עוזר לנו למפות סיכונים פוטנציאליים. המודלים המשמשים את העוצמה של חוויית Copilot עברה בדיקות צוות אדומות של בודקים המייצגים נקודות מבט מרובות תחומים רלוונטיים בנושא. בדיקה זו תוכננה כדי להעריך כיצד הטכנולוגיה העדכנית ביותר ת לפעול הן עם והן ללא אמצעי הגנה נוספים שהוחלו עליה. הכוונה של תרגילים אלה ברמת המודל היא ליצור תגובות מזיקות, להציג שדרות פוטנציאליות לשימוש לרעה ולזהות יכולות ומגבלות.

לפני הפיכת חוויית Copilot לזמינה באופן ציבורי בתצוגה מקדימה של מהדורות מוגבלות, ביצענו גם צוות אדום ברמת היישום כדי להעריך את Copilot לקצרים ופגיעות. תהליך זה עזר לנו להבין טוב יותר כיצד ניתן להשתמש במערכת על-ידי מגוון רחב של משתמשים ועזר לנו לשפר את צמצום הסיכונים.

מדידה: בנוסף להערכת Copilot כנגד הערכות הבטיחות הקיימות שלנו, השימוש בצוות אדום המתואר לעיל עזר לנו לפתח הערכות ומדדי בינה מלאכותית אחראית התואמים לזיהוי סיכונים פוטנציאליים, כגון שבבירות מהכלא, תוכן מזיק ותוכן לא מוארק.

אספנו נתוני שיחה שמיקוד הסיכונים האלה, באמצעות שילוב של משתתפים אנושיים וצינור אוטומטי של יצירת שיחה. לאחר מכן, כל הערכה מוערכת על-ידי מאגר של ביאורים אנושיים מיורגלים או צינור ביאור אוטומטי. בכל פעם שה מוצר משתנה, צמצום הסיכונים הקיים מתעדכן או צמצום סיכונים חדש מוצע, אנו מעדכנים את קווי הצינור להערכה כדי להעריך הן את ביצועי המוצר והן את מדדי הבינה המלאכותית האחראית. קווי צינור אוטומטיים אלה להקשר הערכה הם שילוב של שיחות שנאספו עם מעריךי בני אדם ושיחות סינתטיות שנוצרו עם אפליקציות LLMs שהתבקשו לבדוק מדיניות באופן תואר הפועל. כל אחת מהערכות בטיחות אלה מקודגת באופן אוטומטי עם LLMs. עבור ההערכות החדשים שפותחו, כל הערכה היא תחילה ניקוד על ידי תוויות אנושיות שקראו את תוכן הטקסט או להאזין לפלט השמע, ולאחר מכן המרה להערכות אוטומטיות המבוססות על LLM.

אופן הפעולה המיועד של המודלים שלנו בשילוב עם צינורות ההערכה שלנו – הן אנושיים והן אוטומטיים - מאפשר לנו לבצע מדידה במהירות עבור סיכונים פוטנציאליים בקנה מידה גדול. כאשר אנו מזהים בעיות חדשות לאורך זמן, אנו ממשיכים להרחיב את ערכות המידות כדי להעריך סיכונים נוספים. 

ניהול: כפי שזיהינו סיכונים פוטנציאליים ולהשתמש לרעה באמצעות צוות אדום ומדדנו אותם עם הגישות המתוארות לעיל, פיתחנו צמצום סיכונים נוסף שהנו ספציפי לחוויה של Copilot. להלן, אנו מתארים כמה מסיכונים אלה. נמשיך לנטר את חוויית Copilot כדי לשפר את ביצועי המוצר ואת הגישה שלנו להפחתת סיכונים. 

• תוכניות הפצה בשלבים והערכה מתמשכית.    אנו מחויבים ללמוד ולשפר את הגישה שלנו ליישום אחראי של בינה מלאכותית באופן רציף ככל שהטכנולוגיות וההתפתחות של המשתמשים מתפתחים. אסטרטגיית ההפצה המצטברת שלנו היא חלק מרכזי באופן העברת הטכנולוגיה שלנו בבטחה מהמעבדה לעולם, ואנו מחויבים לתהליך מחושב ומבוקר כדי להבטיח את היתרונות של חוויית Copilot. אנו בוצעו שינויים ב- Copilot באופן קבוע כדי לשפר את ביצועי המוצרים ואת צמצום הסיכונים הקיים, וליישם צמצום סיכונים חדש בתגובה ללמידה שלנו.

• מינוף מסווגים וההודעות של המערכת כדי לצמצם סיכונים פוטנציאליים או שימוש לרעה.    בתגובה לבקשות המשתמשים, הודעות LLMs עשויות ליצור תוכן בעייתי. דנו בסוגי תוכן שאנו מנסים להגביל בסעיפים 'אופן פעולה של המערכת' ו'מגבלות' לעיל. מסווגים וההודעות המערכת הם שתי דוגמאות של צמצום סיכונים שהושמו ב- Copilot כדי לסייע בהפחתת הסיכון לסוגי תוכן אלה. מסווגים מסווגים טקסט כדי לסמן בדגל תוכן שעלול להיות מזיק בהנחיות המשתמש או בתגובות שנוצרו. אנו משתמשים גם בשיטות עבודה מומלצות קיימות למינוף הודעת המערכת, הכוללת מתן הוראות למודל להתאמת אופן הפעולה שלו לעקרונות הבינה המלאכותית של Microsoft ולציפיות המשתמשים.

• הסכמה להעלאת תמונות Copilot.    בפעם הראשונה שמשתמש מעלה תמונה המכילה פנים ל- Copilot, הוא יתבקש לספק את הסכמתו להעלאת הנתונים הביומטריים שלו ל- Copilot. אם משתמש אינו בוחר להצטרף, התמונה לא תישלח ל- Copilot. כל התמונות, בין אם הן מכילות פנים או לא, נמחקות בתוך 30 יום לאחר סיום השיחה.

• גילוי בינה מלאכותית.    Copilot נועדה גם ליידע אנשים שהם מקיים אינטראקציה עם מערכת בינה מלאכותית. כאשר משתמשים עוסקים ב- Copilot, אנו מציעים נקודות מגע שונות שנועדו לעזור להם להבין את יכולות המערכת, לחשוף בפניהם ש- Copilot מופעל באמצעות בינה מלאכותית ולהעביר מגבלות. החוויה נועדה באופן זה כדי לעזור למשתמשים להפיק את המרב מ- Copilot ולמזער את הסיכון להתייסות. חשיפת מידע גם עוזרת למשתמשים להבין טוב יותר את Copilot ואת האינטראקציות שלהם איתו.

• הוכחת מדיה.    כאשר Copilot מייצרת תמונה, הפעלנו את התכונה "אישורי תוכן", המשתמשת בשיטות הצפנה כדי לסמן את המקור, או "מוכח", של כל התמונות שנוצרו על-ידי בינה מלאכותית שנוצרו באמצעות Copilot. טכנולוגיה זו משתמשת בתקנים המוגדרים על-ידי הקואליציה עבור תוכן ואותנטיות (C2PA) כדי להוסיף שכבה נוספת של אמון ושקיפות עבור תמונות שנוצרו על-ידי בינה מלאכותית.

• זיהוי תוכן אוטומטי.    כאשר משתמשים מעלה תמונות כחלק מהנחיה לצ'אט, Copilot פורס כלים כדי לזהות תמונות ניצול מיני של ילדים והתעללות (CSEAI). Microsoft מדווחת כל CSEAI נראה לעין למרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC), כפי שנדרש על-ידי חוק ארצות הברית. כאשר משתמשים מעלה קבצים לניתוח או לתהליך, Copilot פורס סריקה אוטומטית כדי לזהות תוכן שעלול להוביל לסיכונים או לשימוש לרעה, כגון טקסט שעשוי להיות קשור לפעילויות לא חוקיות או לקוד זדוני.

• תנאי שימוש וקוד התנהגות.    המשתמשים צריכים לעמוד בתנאי השימוש ובקוד ההתנהגות של הסכם השירותים של Microsoft בנושא Copilot, ולהצהרת הפרטיות של Microsoft, אשר, בין שאר הדברים, מודיעים להם על שימושים בלתי מורשים שאינה חלה עליהם ועל ההשלכות של ההפרה של התנאים. תנאי השימוש גם מספקים גילויים נוספים עבור המשתמשים ומ משמש כ חומר עזר למשתמשים ללמוד על Copilot. ייתכן שמשתמשים המבצעים הפרות חמורות או שחוזרות על הפעולה יושהו באופן זמני או קבוע מהשירות.

• משוב, ניטור ופיקוח.    חוויית Copilot תבנה על כלים קיימים המאפשרים למשתמשים לשלוח משוב, אשר נבדקים על-ידי צוותי התפעול של Microsoft. יתר על כן, הגישה שלנו למיפוי, למדידה ולניהול של סיכונים תמשיך להתפתח ככל שנלמד עוד, ואנו כבר קיימים שיפורים המבוססים על משוב שנאסף במהלך תקופות תצוגה מקדימה.

למידע נוסף על יישום אחראי של בינה מלאכותית

דוח שקיפות של Microsoft ליישום אחראי של בינה מלאכותית

עקרונות הבינה המלאכותית של Microsoft

משאבי Microsoft ליישום אחראי של בינה מלאכותית

קורסי Microsoft Azure Learning בנושא יישום אחראי של בינה מלאכותית

קבל מידע נוסף על Microsoft Copilot

Microsoft Copilot שאלות נפוצות

אודות מסמך זה

© 2024 Microsoft Corporation. כל הזכויות שמורות. מסמך זה מסופק "כפי שהוא" ול למטרות מידע בלבד. מידע ותצוגות המבוטאים במסמך זה, כולל כתובת URL והפניות אחרות לאתרי אינטרנט, עשויים להשתנות ללא הודעה מוקדמת. הסיכון בשימוש בתוכנה הוא באחריותך. דוגמאות מסוימות מיועדות לאיור בלבד והן מדוגמאות. שיוך אמיתי אינו מיועד או נגזר.

מסמך זה אינו מיועד להיות, ולא צריך לתסכם כעצה משפטית מספקת. תחום השיפוט שבו אתה פועל עשוי לכלול דרישות תקינה או דרישות משפטיות שונות החלות על מערכת הבינה המלאכותית שלך. התייעץ עם מומחה משפטי אם אינך בטוח לגבי חוקים או תקנות שעשויים לחול על המערכת שלך, במיוחד אם אתה סבור שאלה עשויים להשפיע על המלצות אלה. שים לב שלא כל ההמלצות והמשאבים הללו יהיו מתאימים לכל תרחיש, ולהפך, המלצות ומשאבים אלה עשויים להיות לא מספיקים עבור תרחישים מסוימים.

פורסם בתאריך: 10/01/2024

עדכון אחרון: 10/01/2024