Νέες ανακοινώσεις σήμερα από την Microsoft σχετικά με τα χαρακτηριστικά ασφάλειας της τεχνητής νοημοσύνης. Είναι ένα νέο εργαλείο στο Azure AI Content Safety που έχει σχεδιαστεί για να ανιχνεύει και να διορθώνει περιεχόμενο που δημιουργείται από AI. Επίσης , η υπηρεσία Azure OpenAI θα ξεκινήσει να τοποθετεί αόρατα υδατογραφήματα σε εικόνες που δημιουργούνται στην υπηρεσία μέσω του DALL-E 3.
Η Microsoft δεν έχει ολοκληρώσει ακόμη τις ανακοινώσεις ασφάλειας AI. Έχει ήδη ξεκινήσει μια δημόσια προεπισκόπηση του νέου Multimodal API στην υπηρεσία Azure AI Content Safety. Αυτό το API εντοπίζει επιβλαβές ή ακατάλληλο περιεχόμενο σε εφαρμογές και υπηρεσίες που δημιουργούνται από ανθρώπους και εργαλεία τεχνητής νοημοσύνης.
Το νέο Multimodal API έχει σχεδιαστεί για να εντοπίζει περιεχόμενο σε κείμενο και εικόνες, συμπεριλαμβανομένων των emoji, που ενδέχεται να έχουν επιβλαβές, μη ασφαλές ή ακατάλληλο περιεχόμενο. Αυτό περιλαμβάνει θέματα όπως άσεμνο περιεχόμενο, ρητορική μίσους, βία, αυτοτραυματισμό και σεξουαλικό περιεχόμενο. Η Microsoft λέει επίσης ότι το API μπορεί να βρει αυτό το είδος περιεχομένου ακόμα κι αν περιλαμβάνεται σε συνδυασμό κειμένου και εικόνων. Το API μπορεί να ανιχνεύσει επιβλαβές περιεχόμενο, το οποίο μπορεί να μην είναι εμφανές εάν το κείμενο και η εικόνα προβάλλονται από μόνα τους.
