undesirable behavior

“When someone applies a machine learning algorithm, it’s hard to control its behavior,” said lead author Philip Thomas from the University of Massachusetts Amherst.
...
The team came up with a framework they called ‘Seldonian’ algorithms, named after a character created by sci-fi writer Isaac Asimov, with which users can specify undesirable behavior as per their own needs.

- Is this the way to prevent the RISE OF THE MACHINES?

here you are, Scientists developed a new AI framework to prevent machines from misbehaving

дело за малым: решить, кто будет определять, что является undesirable

И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет.

— А в чем, собственно, дело? — спросил Банин.

— Она начала вести себя, — сказал Горбовский.

все как учили