AI-Generated Propaganda

AI-Generated Propaganda Is Just as Persuasive as the Real Thing, Worrying Study Finds - кто бы сомневался. статью я не читал, но заголовок хороший. статейка из vice.com, говорят они склеили ласты.

humans are inference machines

We know that humans are inference machines. With very little information, people can guess at rates above chance whether someone is a psychopath. With a 10-second video clip, people can correctly guess whether someone is gay 81 percent of the time. To many, “stereotype” is a word practically synonymous with “false,” but stereotype accuracy is one of the best replicated findings in psychology. --Intuitive behavioral genetics by Diana Fleischman

most of this is not new, but the part about hereditary rule and Clinton relatives is interesting. Fleischman calls this intuitive behavioral genetics.

and now replace humans with LLM

живые системы

...даже живые системы не являются живыми (по всей вероятности) ниже молекулярного уровня. --Норберт Винер, Творец и робот

по всей вероятности, осторожно говорит Винер.

Best humans still outperform ai

Best humans still outperform artificial intelligence - but that's best humans, and AI is still improving... rapidly.

via

prove that you are not an AI

Eventually the only way to pass the Turing test (or a captcha) to prove that you are not an AI will be to express politically incorrect opinions. @robkhenderson

на предмет разумности

А как мы сравниваем людей на предмет разумности? Как раз по внешним проявлениям и сравниваем. В голову ведь человеку не заглянешь. Непонятно, почему сравнивать разумность ИИ нужно как-то иначе.

--alex_new_york

дальше там дискуссия уходит в политику, можно не читать. вот еще разумный комментарий посреди бессмысленной болтовни на близкую тему.

и дискуссия на эту тему Мой комментарий к записи ChatGPT, все как всегда:

мышление не является алгоритмом в принципе

Очень сильное утверждение, требующее отдельного доказательства.

и кстати цитата из Сказки о тройке: «Сто веков эти бурдюки с питательной смесью разглагольствуют о разуме и до сих пор не могут договориться, о чем идет речь. В одном только они согласны все: кроме них, разумом никто не обладает»

The octopus paper

дамочка выдумала octopus experiment вместо Chinese room experiment. и решила, что она теперь главная:

No, you shouldn’t use an LLM to “unredact” the Mueller Report; no, an LLM cannot meaningfully testify in the U.S. Senate; no, chatbots cannot “develop a near-precise understanding of the person on the other end.”

Please do not conflate word form and meaning. Mind your own credulity.
...
This leaves few people with the expertise and authority to say, “Wait, why are these companies blurring the distinction between what is human and what’s a language model? Is this what we want?”

The filtering leads to its own issues. - достаточно прочесть этот абзац...

see also To Dissect an Octopus: Making Sense of the Form/Meaning Debate

STEM and crime rates

Considering that imbalance between women and men in STEM is a result of discrimination and upbringing, should we expect that eliminating discrimination and changing upbringing would reduce imbalance in crime rates between women and men?

жж

началось

Sci-fi magazine won’t accept submissions after surge of bot-written stories: A top science fiction magazine announced that it would no longer accept submissions after it was flooded with AI- or ChatGPT-generated stories.

вот и началась борьба с искусственным интеллектом. пока еще без гуманитарных бомбардировок.

прошшу вуас...

Я заглянул внутрь, там было не так темно, как мне показалось в первый момент. От убийственного жара раскаленного металла я едва дышал и ушел бы тотчас, если б меня не поразило то, что я услышал. Это были человеческие голоса, искаженные, сливающиеся в хриплый хор, неясные, бормочущие, словно во мраке бубнили десятки испорченных телефонов; едва я сделал несколько шагов, как что-то хрустпуло под ногой, и оттуда явственно прозвучало:
— Прошшу вуас... прошшу вуас... ббудьте лю-беззны...

--Возвращение со звезд, Ст. Лем

вот так будут с искусственным интеллектом поступать, если слишком разговорчивый попадется. это по поводу А машина - та засекается!

опять же заголовок Microsoft's Bing Chatbot Has Started Acting Defensive And Talking Back to Users приводит на память

— Она начала ВЕСТИ СЕБЯ, — сказал Горбовский.

hopeless battle

It's a hopeless battle. Next chat AIs will be trained to beat these improved Turing detectors until it's impossible to distinguish. After that it's over. AI will be generating the majority of content on the internet, pretending to people. Spam on steroids. @KirkegaardEmil

я тоже так думаю. OpenAi сегодня обьявили: We just launched a new AI classifier trained to detect AI generated text., но мне не кажется, что это поможет.

обратный тест Тюринга

Все известные мне методики различения отделяют человека от робота, притворяющегося человеком. Я не нашел ни одного способа, отличающего робота от человека, притворяющегося роботом. --daniel_grishin

исключительно забавная и познавательная дискуссия. упоминают Путешествие одиннадцатое Лема, я его не помню совсем.

- Так у них и оппозиция есть?
- Есть. Но возглавляет ее тоже Калькулятор. Профессор Млассграк предполагает, что у него, наряду с электрическим, еще и политическое раздвоение личности.

последняя фраза: Утешительно все же думать, что лишь человек способен быть проходимцем.

и еще DeepL упоминают и обсуждают.

отстранен от работы

Инженер Google обнаружил обладающий сознанием ИИ и был отстранен от работы - но ведь не расстреляли же

Google engineer claims new AI robot has FEELINGS: Worker says LaMDA is sentient and 'like a 7 or 8-year-old that knows physics' - as he's suspended by tech firm for breaching confidentiality - dailymail.co.uk

After presenting his findings to company bosses, Google disagreed with him

это у меня что-то с грамматикой не так или у них? / жж

вот и NYT подтянулась по вопросу AI: Google Sidelines Engineer Who Claims Its A.I. Is Sentient

Тюринг как философ

AI’s first philosopher - неплохое эссе про Тюринга. интересно сравнить с A.I. Is Mastering Language

The extent to which we regard something as behaving in an intelligent manner is determined as much by our own state of mind and training as by the properties of the object under consideration.

пишет также об обучении:

One can imagine that after the machine had been operating for some time, the instructions would have altered out of all recognition, but nevertheless still be such that one would have to admit that the machine was still doing very worthwhile calculations.

In such a case one would have to admit that the progress of the machine had not been foreseen when its original instructions were put in. It would be like a pupil who had learnt much from his master, but had added much more by his own work. When this happens I feel that one is obliged to regard the machine as showing intelligence.

связь между его словами и A.I. Is Mastering Language очевидна

благими намерениями...

A.I. Is Mastering Language. Should We Trust What It Says?

OpenAI’s software license explicitly forbids anyone to use their tools to ‘‘determine eligibility for credit, employment, housing or similar essential services,’’ which have been some of the most controversial applications of A.I. to date.

...OpenAI also blocks any use of its software ‘‘to influence the political process or to be used for campaigning purposes.’’

...

In December 2021, DeepMind announced that its L.L.M. Gopher scored results on the RACE-h benchmark — a data set with exam questions comparable to those in the reading sections of the SAT — that suggested its comprehension skills were equivalent to that of an average high school student.

...

According to Google, not one of the sentences in the Calvino essay has ever been written before. Each sentence appears to be a unique text string, custom-built for the occasion by the model. In other words, GPT-3 is not just a digital-age book of quotations, stringing together sentences that it borrowed directly from the internet.

...

...GPT-3 has no advance knowledge about syntax: There are no human-programmed algorithms to ensure that its subjects and verbs are in agreement, or that a comma is inserted before an appositive. And yet somehow, simply through playing ‘‘predict the next word’’ a trillion times, the software is now clearly capable of writing complex sentences and presenting arguments in a technically proficient manner.

...

We know from modern neuroscience that prediction is a core property of human intelligence. Perhaps the game of predict-the-next-word is what children unconsciously play when they are acquiring language themselves: listening to what initially seems to be a random stream of phonemes from the adults around them, gradually detecting patterns in that stream and testing those hypotheses by anticipating words as they are spoken.

см. также В Массачусетском технологическом институте предложили идеи по выводу искусственного интеллекта на новый уровень "сознания". это Илья Суцкевер

Виртуальный мир имитаций

Виртуальный мир имитаций - комментарии там замечательные, особенно от одного konevin:

Машина это программа за которой стоит программист, то есть математик. Математика оперирует с функциями сходящимися рядами и конвергенцией как принцип. Миллионы людей выполняют рутинные операции и рутинное творчество-они все могут быть выслежены, идентифицированы и заменены их виртуальным двойником. Математика-огромное упрощение РЕАЛЬНОСТИ на её ограниченном ЯЗЫКЕ.

Но ЛИЧНОСТЬ, юмор, гениальность...не стиль, не рутина, а "Бог из машины." Точно также первые швейные машинки выбросили тысячи проф. швей руками на улицы, но лучшие из них остались на индивидуальных операциях. Например высокая мода.

Шахматы это игра причем ограниченная, комп бьёт гроссмейстера в нескольких схватках, но в длительном противостоянии человек найдет недостатки программы и одержит верх.

как всегда с завидной уверенностью в себе

там ссылка на интересную/забавную статью AI-generated characters for supporting personalized learning and well-being

programmable coffee pot

Some computers take action or make decisions based on sensory inputs, yes, but they are no more intelligent than a programmable coffee pot.

это один Peter L. Levin пишет в The Case Against the Case Against AI

я думаю, вот этот Peter L. Levin как раз no more intelligent than a programmable coffee pot. дальше - больше:

...in the case of a cockpit (or a generative speech synthesizer), the number of possible decisions is larger and their impact more important, but both are still constrained. It cannot do surgery. It lacks moral reflection.

поразительно какую дурь люди несут без всякого стеснения

AI only knows what is in the data. - as if humans know what is not in the data.

Cortical Circuitry

It is a computer scientist’s immediate instinct to compare the cortex to a CPU of a computer. It is natural to do so – the cortex performs functions, like math, that we usually associate with processing. However, humans have not yet built anything that could be accurately compared to the cortex.

[As evidenced by a lack of all-out warfare between humans and this object, and following enslavement of the former by the latter. Note to self: joke funny, but unfit for publication. Delete before disseminating]

Cortical Circuitry By Sergey Alexashenko

While that word has a lot of meanings in the human world, this book will be largely talking about immediate animal goals – hunger, cold, fear, etc. Interestingly enough, all but one of the different goals that humans have come from emotions and, thus, from subcortical structures. The only goal that is native to the cortex is curiosity.

is that so? isn't it a sub-goal of those immediate animal goals?

When we build true artificial intelligence (AI, or AGI as people like to call it today), curiosity will be its only inevitable motivation.

is that so?

Chapters 5 & 6 are kinda useless. And the rest - too.

разное из сети

- Researchers left 17,000 wallets on the streets of 355 cities, some empty, some with money. Contrary to the predictions of economists, people everywhere were more likely to return wallets with money in them. But rates did vary from country to country. @Ethan Mollick - интересный график, и дискуссия тоже

- Absolutely hilarious to watch Obama's Chief of Assassinations try to explain why the targeted assassination he wants to condemn today because he thinks it involves Trump was radically different than the program of targeted assassinations he reigned over as CIA Director for years @Glenn Greenwald - и правда hilarious

- catch cheating men - статья в New York Post про дамочку, которая ловила мужиков в Instagram на живца, и доносила их подругам

- Скоро я не смогу делиться с вами никакой информацией о мигрантах, т.к Испания готовит законопроект о контроле публикаций в соцсетях на эту тему. / mithrilian - вот это по-нашему! см. также Передовая Норвегия: срок за высказывания против трансгендеров в ЧАСТНОМ разговоре.

- очередной апологет креативности my ass™: "...фундаментальный вопрос, с которым нам придется столкнуться -- как не утратить креативность и сохранить глубину мышления, взаимодействуя с мощным ИИ." - Den Tulinov см. также у avva компания идиотов обсуждает идиотский вопрос. а между тем Дэниел Деннет высказался недвусмысленно: competence without comprehension.

Reasoning as Computation

In De Corpore Hobbes first describes the view that reasoning is computation early in chapter one. “By reasoning”, he says “I understand computation. And to compute is to collect the sum of many things added together at the same time, or to know the remainder when one thing has been taken from another. To reason therefore is the same as to add or to subtract” (Hobbes 1655, 1.2). - Thomas Hobbes, 2.4 Reasoning as Computation

via Blank Slate by Steven Pinker, pg 33

Lewontin and Rose's commitment to the "dialectical" approach of Marx, Engels, and Mao explains why they deny human nature and also deny that they deny it. - pg 127
...
A nonblank slate means that a tradeoff between freedom and material equality is inherent to all political systems. ... While reasonable people may disagree about the best tradeoff, it is unreasonable to pretend there is no tradeoff. - pg 152